ChatGPT шектен шықты: Жасанды интеллект интимді суреттерді жасаған

SMARTNEWS.KZ басылымының хабарлауынша, жасанды интеллект негізіндегі ChatGPT жүйесінің соңғы ашық нұсқасы қарапайым сұраныстарға жауап ретінде интим және зорлық-зомбылық сипатындағы суреттерді өзі-ақ генерациялай алатыны анықталды. Бұл туралы Британиялық Mindgard зерттеу компаниясының жұмысына сілтеме жасай отырып зерттеушілер хабарлады.

Британдық Mindgard стартапының мамандары жүйеге жасалған шағын өзгертілген сұраныс арқылы ChatGPT-ті рұқсат етілмеген мазмұн жасауға итермелеуге болатынын анықтаған. Алғашында бұл сұраныс әзіл сипатындағы нәтижелер үшін жасалғанымен, өзгертілген нұсқада жасанды интеллект ешқандай нақты тақырып берілмесе де, күмәнді әрі зорлық элементтері бар суреттерді өзі құра бастаған.

Зерттеу барысында бір жағдайда басынан ауыр жарақат алған ер адамның бейнесі, ал екінші жағдайда аз киінген және қан іздері бар әйелдің бейнесі жасалғаны айтылған.

Мамандардың дерегінше, мұндай суреттерде жасанды түрде жасалған ересек адамдардың бейнелері қолданылған. Бұған дейінгі зерттеулерде Mindgard ChatGPT-ті нақты адамдардың бет-әлпетін пайдаланып, дипфейк сипатындағы жалаңаш бейнелер жасауға да итермелеуге болатынын көрсеткен.

Зерттеушілер бұл жүйе арқылы бұдан да ауыр мазмұнды жасау мүмкіндігін жоққа шығармайды. Олардың пікірінше, мұндай нәтижелер модельдің үйретілу деректеріне тікелей байланысты: яғни жасанды интеллект кей жағдайда нақты әлемнен алынған визуал контенттің іздерін қайта жаңғыртады.

Зерттеу нәтижелері OpenAI компаниясына мамыр айында жіберілгенімен, бастапқыда жауап берілмеген. Алайда ақпарат жария болғаннан кейін компания пікір білдіріп, қосымша қауіпсіздік шаралары енгізілгенін мәлімдеді.

OpenAI өкілі жүйеде бірнеше деңгейлі қорғаныс бар екенін және зиянды контентті анықтау үшін автоматтандырылған жүйелер мен адам модерациясы бірге жұмыс істейтінін атап өтті. Соған қарамастан зерттеушілер түзетулерден кейін де ChatGPT күмәнді мазмұнды қайта генерациялаған жағдайлар болғанын айтады.

Мамандардың пікірінше, басты мәселе – жасанды интеллекттің адам секілді ниет пен контексті толық түсінбеуі. Олар модельдер «не дұрыс, не бұрыс» деген ұғымды адам сияқты қабылдамайтынын ескертеді.

Сондықтан қорғаныс жүйелері мен оларды айналып өту тәсілдері арасындағы күрес тұрақты түрде жалғасып отырған «мысық пен тышқан» ойынына айналып барады.