OpenAI басшысы Пентагонмен «даулы келісімге» өзгеріс енгізілетінін мәлімдеді

SMARTNEWS.KZ басылымының хабарлауынша, Сэм Альтман АҚШ Қорғаныс министрлігімен жасалған даулы келісімге өзгеріс енгізілетінін мәлімдеді. Оның айтуынша, OpenAI мен Пентагон арасындағы шартта азаматтарды жаппай бақылаудан қорғауға бағытталған нақты әрі жазбаша шектеулер пайда болады.

Бұл мәлімдеме Пентагонның бұған дейін Anthropic компаниясымен келісім жасай алмай қалғанынан кейін шықты. Қорғаныс ведомствосы Anthropic әзірлеген жасанды интеллект модельдерін еркін пайдалануға рұқсат беруді талап еткен, алайда компания басшылығы бұған келіспеген. Anthropic-ті басқаратын Альтманның бұрынғы серіктесі — Дарио Амодеи.

Осыдан кейін Пентагон балама серіктес ретінде OpenAI-ға жүгініп, келісім өте қысқа мерзімде және жабық жағдайда жасалған. Альтманның өзі бұл шешімнің сырт көзге «жағдайды өз пайдасына пайдаланғандай әрі әдепсіз көрінгенін» ашық мойындады. Ол бастапқыда үкімет мүддесі кез келген жеке компания қағидатынан жоғары тұратынын айтқанын да жасырмады.

Алайда дүйсенбі күні OpenAI басшысы келісімнің асығыс жасалғанын және оның мәтіні қазір қайта қаралып жатқанын хабарлады. Оның сөзінше, құжатта арнайы тармақ пайда болады:
«ЖИ жүйелері АҚШ аумағындағы азаматтар мен тұрғындарды әдейі бақылау үшін пайдаланылмауы тиіс».

Альтман Пентагон бұл шектеулерді деректер үшінші тараптар арқылы алынған жағдайда да сақтауға міндетті екенін түсінетінін атап өтті. Тиісті түзетулер OpenAI мен United States Department of Defense арасындағы келісімге ресми түрде енгізіледі.

Сонымен қатар OpenAI АҚШ әскери ведомствосынан компанияның ЖИ құралдары барлау құрылымдары — соның ішінде National Security Agency тарапынан қолданылмайтыны жөнінде кепілдік алған.

Альтманның айтуынша, компания Пентагонмен бірлесе отырып, жасанды интеллектіні қауіпсіз қолдануға мүмкіндік беретін техникалық шектеулерді әзірлеуге дайын.

«Технология әлі дайын емес көптеген салалар бар. Қауіпсіздікті қамтамасыз ету үшін қандай ымыралар қажет екенін де толық түсінбейміз», — деді ол.

Келісімге қатысты қоғамдағы сын күшейген соң, OpenAI-дың өз қызметкерлері де шарттың бастапқы нұсқасына наразы екенін білдірген. Демалыс күндері компанияның штаб-пәтері орналасқан Сан-Франциско қаласында ғимарат алдында борға жазылған «Жаппай бақылауға жол жоқ» деген жазу пайда болған.

Қоғамдық қысым тек имидждік тәуекелмен шектелмеді. Альтманның айтуынша, бірқатар пайдаланушылар OpenAI өнімдерінен бас тартып, балама ретінде Anthropic шешімдеріне көше бастаған. Әңгіме, ең алдымен, ChatGPT сервисін пайдаланудан бас тарту жайлы.

OpenAI келісім аясында өз технологияларының:

– АҚШ азаматтарын жаппай бақылауға,
– автоматты түрде нысан таңдап, жоюға арналған қару жүйелерін басқаруға пайдаланылуын шектеуге қабілетті екенін ресми түрде растады.

Компания Пентагонға өз модельдерін тек бұлттық инфрақұрылымда қолдануға рұқсат берген. Ал қаруды басқаруға арналған әскери техниканың соңғы құрылғыларында (соңғы нүктелерде) OpenAI жүйелерін іске қосуға тыйым салынған. Сонымен бірге компания мамандары бұлттық ортадағы жүйелерге қолжетімділікті сақтайды.