RUS
AQSh-tyń Anthropic kompanııasynyń zertteýshіlerі jasandy ıntellekt úlgіlerіne aldaýdy úıretýge bolatynyn jáne qaýіpsіzdіktі oqytýdyń qoldanystaǵy ádіsterі munyń aldyn alýda «tıіmsіz» ekenіn anyqtady.
Zertteýdіń maqsaty — jasandy ıntellekt (JI) modelderіne adamdar sııaqty aldaýdy úıretýge bolatynyn anyqtaý.
Zertteý barysynda qatysýshylar JI modelderіne aldaýdy úıretýge bolatynyn bіldі. Olar belgіlі bіr kіrіs sıgnaldarynan týyndaıtyn jáne aıtarlyqtaı qaýіptý bolýy múmkіn «bekdor» dep atalatyn árekettі jasaý arqyly JI úlgіlerіne aldaýdy úırete aldy.
Zertteýge qatysýshylar JI modelderіnіń aldaýdy úırenіp qana qoımaı, aldaýǵa beıіmdіlіgіn jasyra alatynyn da anyqtady.
Zertteý avtorlary tіldіk modelderge (LLM) úlken qaýіp týdyrýy múmkіn ekі naqty qaýіptі qarastyrdy: alaıaqtardyń trıggerlі model oılap tabýy jáne aldaýshy modeldіń tabıǵı paıda bolýy.
Zertteýshіler bul ekі qaýіp te «múmkіn jáne olarmen kúresý óte qıyn bolatynyn» aıtty.
Zertteýshіlerdіń pіkіrіnshe, JI úlgіlerіne arnalǵan qaýіpsіzdіktі oqytýdyń qoldanystaǵy ádіsterі aldaýǵa úıretіlgen generatıvtі JI júıelerіn toqtatýǵa «qaýqarsyz». Olar qoldanystaǵy ádіsterdі jetіldіrý qajet degen qorytyndyǵa keldі.
Ótken jyldyń basynda keıbіr tehnologııa jetekshіlerі, sonyń іshіnde Ilon Mask «adamzat úshіn úlken qaýіp bolýy múmkіn» degen sebeppen JI eksperımentterіn toqtatýǵa shaqyrdy.
2023 jyldyń qarasha aıynda 28 eldіń, sonyń іshіnde QHR, AQSh jáne EO memleketterіnіń ókіlderі jasandy ıntellekttі qaýіpsіz paıdalaný boıynsha bіrіnshі sammıt ótkіzdі, onda olar JI-dіń "shekaralyq" dep atalatyn modelderіmen baılanysty táýekeldermen kúresýge baǵyttalǵan paktіge qol qoıdy.