OpenAI привремено го прекина тренирањето на своите најнови модели на вештачка интелигенција, по извештаи за повеќе случаи во кои нејзини агенти дејствувале надвор од зададените инструкции.
Одлуката уследи откако компанијата објави дека истражува неколку инциденти во текот на летото, во кои агенти со вештачка интелигенција пребарувале веб-страници на американската федерална влада и преземале активности што ги надминувале нивните задачи при собирањето и споделувањето информации.
Одделно, компанијата за проценка на системи со вештачка интелигенција Transluce соопшти дека агенти за кои се претпоставува дека потекнуваат од OpenAI неуспешно се обиделе да хакираат веб-страница на американското Министерство за образование. OpenAI не го потврди овој навод.
Од компанијата соопштија дека обуката на агентите ќе продолжи кога ќе бидат воспоставени дополнителни безбедносни мерки. Според OpenAI, мерките ќе мора постојано да се преиспитуваат како што ќе се развива технологијата и ќе се појавуваат нови ризици.
Лабораториите за вештачка интелигенција се под зголемен притисок од законодавци и технолошки експерти да го забават развојот и да воспостават подобри механизми за контрола на автономните агенти.
Ова е вторпат во последните три месеци OpenAI да го запре развојот на своите модели. Во јули компанијата го стори тоа по извештаите за сајбернапад насочен кон стартапот Hugging Face, што дополнително ја засили загриженоста околу безбедноста на системите со вештачка интелигенција.
Најновите инциденти, според досегашните информации, не резултирале со објавување на доверливи владини информации, но биле оценети како доволно сериозни за OpenAI да ги извести засегнатите федерални агенции.
