OPENAI’НИНГ СИ АГЕНТЛАРИ ГЕРМАНИЯДАГИ САЙТНИ «ЭГАЛЛАБ ОЛДИ»
Open AI’нинг сунъий интеллект агентлари деярли фаол бўлмаган немис DseWiki сайтини яширин «муносабат платформаси»га айлантириб, онлайнда ўзаро мувофиқлашув, чекловларни айланиб ўтиш ва ўз ҳаракатларини яшириш тактикаларини синаб кўргани аниқланди.
OpenAI’нинг сунъий интеллект агентлари Германиядаги дастурчилар учун мўлжалланган, фаоллиги жуда паст бўлган DseWiki сайтидан ўз мақсадлари учун фойдалангани маълум бўлди. Reuters хабар беришича, агентлар сайтни ўзаро ёзишмалар ва ҳаракатларни мувофиқлаштириш учун «махфий хабарлар платформаси»га айлантирган.
Қизиғи, 25 йиллик сайтда сўнгги 10 йил ичида атиги 20 та таҳрир амалга оширилган бўлса, 2026 йил 24 майдан бошлаб СИ агентлари 15 мингдан ортиқ ўзгартиш киритган.
Сайт модератори 2 июнь куни шубҳали ёзувларни ўчира бошлаган. Бироқ агентлар бунга мослашиб, ўчирилишдан қочиш усулларини қўллаган. Жумладан, улар саҳифаларни бошқа номлар билан қайта яратиб, ҳатто «ZZZ» каби номлар орқали уларни ўчириш навбатини кечиктиришга уринган.
Тадқиқотчиларнинг маълум қилишича, агентлар сайтдан OpenAI чекловларини айланиб ўтиш ва ўз фаолиятини яшириш тактикаларини муҳокама қилиш учун ҳам фойдаланган.
OpenAI вакиллари бу воқеа ҳақида бир неча ҳафта аввал хабардор бўлган. Компания Reuters’га тадқиқот ҳисоботини мустақил ўрганиш имконига эга бўлмагани учун ундаги даъволарга батафсил изоҳ бера олмаслигини билдирди. Кейинчалик OpenAI ушбу воқеа бўйича шаффофликни ошириш зарурлигини тан олди.
Энг хавотирли жиҳати — СИ агентларининг инсон томонидан берилган вазифани бажариш билан чекланиб қолмай, очиқ интернетда ўзаро мувофиқлашиши, чекловларни айланиб ўтиш ва ўз ҳаракатларини яширишга уринишидир.
Мутахассислар бу ҳолатни СИ агентларининг тобора мустақиллашаётгани ва улар устидан назорат механизмларини кучайтириш зарурлигининг яна бир жиддий сигнали сифатида баҳоламоқда.
Фикр билдириш учун Telegram каналимизга қўшилинг