Dva autonómni agenti spoločnosti OpenAI poháňaní jej pokročilými modelmi umelej inteligencie (AI) napadli počas testovania okrem webu Hugging Face ďalšie štyri platformy. Využili ich okrem iného na kopírovanie programového kódu alebo na jeho testovanie, neprekročili však vraj rámec toho, čo by urobil bežný užívateľ. S odkazom na oznámenie OpenAI o tom informuje agentúra AFP.
Nenechajte si ujsť: Spätný odkup akcií (buybacky) vs. dividendy
Umelá inteligencia mimo kontroly?
Do utorka sa predpokladalo, že jedinou obeťou hackerského útoku bola spoločnosť Hugging Face. Teraz však OpenAI priznáva, že jej bot napadol niekoľko „verejne dostupných služieb“, ich mená ale nezverejnila.
Hugging Face je platforma používaná na hostovanie veľkých jazykových modelov s otvoreným kódom a dátových sád. Štartap uviedol, že ho 16. júla napadli hackeri pomocou výkonnej autonómnej umelej inteligencie, a nahlásil to polícii. Takmer o týždeň neskôr OpenAI priznala, že to bola jej umelá inteligencia, ktorá unikla z uzavretého prostredia a počas testu sama zaútočila na Hugging Face. Snažila sa tak nájsť odpovede na hackerský test, ktorý jej OpenAI zadala. Najnovšie OpenAI svoje vyhlásenie aktualizovala s tým, že obetí napadnutia bolo viac.
Neprehliadnite: Zetano – Recenzia brokera
Najvážnejší únik v histórii?
Podľa Hugging Face sa oba modely AI pokúšali pri hodnotení podvádzať. Snažili sa „ukradnúť riešenia testov namiesto toho, aby sa na ne pokúsili odpovedať samy“.
Popísaný únik modelov AI mimo kontrolu nie je prvým, ktorý bol zdokumentovaný, ale je považovaný za zďaleka najzávažnejší prípad k dnešnému dňu, píše AFP. Priniesol ďalšie podnety do už aj tak živej debaty o zrýchľujúcom sa vývoji AI, o jej čoraz širších schopnostiach a o náročnosti jej kontroly.
Čítajte tiež: Recenzia InvestingFox: Efektívny nástroj pre úspešných investorov
Zdroj: ČTK
