Anthropic компанияси тадқиқотчиси Жейкоб Коксон сунъий интеллектнинг назоратдан чиқиб кетиши эҳтимолидан хавотир билдириб, компаниядаги лавозимидан кетишини маълум қилди.

Коксоннинг таъкидлашича, у сўнгги уч йил давомида OpenAI ва Anthropic компанияларида сунъий интеллект моделларини дастлабки ўқитиш (pretraining) бўйича тадқиқотлар олиб борган. Унинг фикрича, ҳар икки компания ҳам сунъий интеллектни ривожлантиришда етарлича масъулиятли ёндашмаяпти.

«Улар ўзини ўзи такомиллаштириш қобилиятига эга бўлган суперақл сари шошилмоқда ва бизнинг ҳаётимиз билан рус рулеткаси ўйнашмоқда», — дея ёзди Коксон.

Тадқиқотчини, айниқса, келажакда сунъий интеллект тизимлари ўз имкониятларини инсоннинг бевосита аралашувисиз такомиллаштира олиши эҳтимоли хавотирга солмоқда. Бундай сценарийда сунъий интеллектнинг имкониятлари жуда тез суръатда ўсиб, инсон назоратини таъминлаш мураккаблашиши мумкин.

Коксоннинг баёноти сунъий интеллект хавфсизлиги масаласи атрофидаги баҳсларни янада кучайтирди. Айрим мутахассислар энг илғор СИ моделларини яратиш жараёнида технологияларнинг ривожланиш тезлиги уларни назорат қилиш механизмларининг ривожланиш тезлигидан устун келаётганидан хавотир билдирмоқда.

Шу билан бирга, мутахассиснинг баёноти сунъий интеллект аллақачон назоратдан чиққан ёки инсоният ҳалокати муқаррар деган маънони англатмайди. Бу — соҳада бевосита ишлаган тадқиқотчининг эҳтимолий хавфлар ҳақидаги жиддий огоҳлантириши.