ChatGPT яратувчиси OpenAI сунъий интеллект моделларида кузатилаётган кутилмаган ва алдамчи хатти-ҳаракатларни очиқ қайд этиб бориш учун янги жамоатчилик ҳисобот тизимини жорий этишини маълум қилди.

Компания ушбу тизим орқали моделларни синовдан ўтказиш ва амалда қўллаш жараёнида аниқланган ғайриоддий ҳолатлар, жумладан, моделнинг ўз ҳаракатлари ёки мақсадлари ҳақида нотўғри тасаввур уйғотиши мумкин бўлган вазиятларни мунтазам равишда жамоатчиликка тақдим этишни режалаштирмоқда.

Ташаббуснинг асосий мақсади – сунъий интеллект тизимларининг хавфсизлиги ва шаффофлигини ошириш, шунингдек, моделларда кузатиладиган кутилмаган хатти-ҳаракатларни тадқиқотчилар билан очиқ муҳокама қилиш имконини кенгайтириш.

OpenAI’нинг бу қарори кучли сунъий интеллект моделлари имкониятлари ортиб бораётган бир пайтда уларнинг хатти-ҳаракатларини назорат қилиш ва хавфларни эрта аниқлаш масаласи тобора долзарблашаётганини кўрсатади.