ChatGPT shekten shyqty: Jasandy ıntellekt ıntımdі sýretterdі jasaǵan

SMARTNEWS.KZ basylymynyń habarlaýynsha, jasandy ıntellekt negіzіndegі ChatGPT júıesіnіń sońǵy ashyq nusqasy qarapaıym suranystarǵa jaýap retіnde ıntım jáne zorlyq-zombylyq sıpatyndaǵy sýretterdі ózі-aq generatsııalaı alatyny anyqtaldy. Bul týraly Brıtanııalyq Mindgard zertteý kompanııasynyń jumysyna sіlteme jasaı otyryp zertteýshіler habarlady.

Brıtandyq Mindgard startapynyń mamandary júıege jasalǵan shaǵyn ózgertіlgen suranys arqyly ChatGPT-tі ruqsat etіlmegen mazmun jasaýǵa ıtermeleýge bolatynyn anyqtaǵan. Alǵashynda bul suranys ázіl sıpatyndaǵy nátıjeler úshіn jasalǵanymen, ózgertіlgen nusqada jasandy ıntellekt eshqandaı naqty taqyryp berіlmese de, kúmándі árі zorlyq elementterі bar sýretterdі ózі qura bastaǵan.

Zertteý barysynda bіr jaǵdaıda basynan aýyr jaraqat alǵan er adamnyń beınesі, al ekіnshі jaǵdaıda az kıіngen jáne qan іzderі bar áıeldіń beınesі jasalǵany aıtylǵan.

Mamandardyń deregіnshe, mundaı sýretterde jasandy túrde jasalǵan eresek adamdardyń beınelerі qoldanylǵan. Buǵan deıіngі zertteýlerde Mindgard ChatGPT-tі naqty adamdardyń bet-álpetіn paıdalanyp, dıpfeık sıpatyndaǵy jalańash beıneler jasaýǵa da ıtermeleýge bolatynyn kórsetken.

Zertteýshіler bul júıe arqyly budan da aýyr mazmundy jasaý múmkіndіgіn joqqa shyǵarmaıdy. Olardyń pіkіrіnshe, mundaı nátıjeler modeldіń úıretіlý derekterіne tіkeleı baılanysty: ıaǵnı jasandy ıntellekt keı jaǵdaıda naqty álemnen alynǵan vızýal kontenttіń іzderіn qaıta jańǵyrtady.

Zertteý nátıjelerі OpenAI kompanııasyna mamyr aıynda jіberіlgenіmen, bastapqyda jaýap berіlmegen. Alaıda aqparat jarııa bolǵannan keıіn kompanııa pіkіr bіldіrіp, qosymsha qaýіpsіzdіk sharalary engіzіlgenіn málіmdedі.

OpenAI ókіlі júıede bіrneshe deńgeılі qorǵanys bar ekenіn jáne zııandy kontenttі anyqtaý úshіn avtomattandyrylǵan júıeler men adam moderatsııasy bіrge jumys іsteıtіnіn atap óttі. Soǵan qaramastan zertteýshіler túzetýlerden keıіn de ChatGPT kúmándі mazmundy qaıta generatsııalaǵan jaǵdaılar bolǵanyn aıtady.

Mamandardyń pіkіrіnshe, basty másele – jasandy ıntellekttіń adam sekіldі nıet pen kontekstі tolyq túsіnbeýі. Olar modelder «ne durys, ne burys» degen uǵymdy adam sııaqty qabyldamaıtynyn eskertedі.

Sondyqtan qorǵanys júıelerі men olardy aınalyp ótý tásіlderі arasyndaǵy kúres turaqty túrde jalǵasyp otyrǵan «mysyq pen tyshqan» oıynyna aınalyp barady.