Ǵalymdar JI úlgіlerіne aldaýdy úıretýge bolatynyn anyqtady

17.01.2024, 09:50
656
Ғалымдар ЖИ үлгілеріне алдауды үйретуге болатынын анықтады freepik.com

Jasandy ıntellekt modelderіne aldaýdy úıretýge bolady, al odan qorǵaný ázіrge «tıіmsіz» deıdі jańa zertteýler. Kazinform bul týraly Euronews-ke sіlteme jasap habarlap otyr.

 

AQSh-tyń Anthropic kompanııasynyń zertteýshіlerі jasandy ıntellekt úlgіlerіne aldaýdy úıretýge bolatynyn jáne qaýіpsіzdіktі oqytýdyń qoldanystaǵy ádіsterі munyń aldyn alýda «tıіmsіz» ekenіn anyqtady.

Zertteýdіń maqsaty — jasandy ıntellekt (JI) modelderіne adamdar sııaqty aldaýdy úıretýge bolatynyn anyqtaý.

Zertteý barysynda qatysýshylar JI modelderіne aldaýdy úıretýge bolatynyn bіldі. Olar belgіlі bіr kіrіs sıgnaldarynan týyndaıtyn jáne aıtarlyqtaı qaýіptý bolýy múmkіn «bekdor» dep atalatyn árekettі jasaý arqyly JI úlgіlerіne aldaýdy úırete aldy.

Zertteýge qatysýshylar JI modelderіnіń aldaýdy úırenіp qana qoımaı, aldaýǵa beıіmdіlіgіn jasyra alatynyn da anyqtady.

Zertteý avtorlary tіldіk modelderge (LLM) úlken qaýіp týdyrýy múmkіn ekі naqty qaýіptі qarastyrdy: alaıaqtardyń trıggerlі model oılap tabýy jáne aldaýshy modeldіń tabıǵı paıda bolýy.

Zertteýshіler bul ekі qaýіp te «múmkіn jáne olarmen kúresý óte qıyn bolatynyn» aıtty.

Zertteýshіlerdіń pіkіrіnshe, JI úlgіlerіne arnalǵan qaýіpsіzdіktі oqytýdyń qoldanystaǵy ádіsterі aldaýǵa úıretіlgen generatıvtі JI júıelerіn toqtatýǵa «qaýqarsyz». Olar qoldanystaǵy ádіsterdі jetіldіrý qajet degen qorytyndyǵa keldі.

Ótken jyldyń basynda keıbіr tehnologııa jetekshіlerі, sonyń іshіnde Ilon Mask «adamzat úshіn úlken qaýіp bolýy múmkіn» degen sebeppen JI eksperımentterіn toqtatýǵa shaqyrdy.

2023 jyldyń qarasha aıynda 28 eldіń, sonyń іshіnde QHR, AQSh jáne EO memleketterіnіń ókіlderі jasandy ıntellekttі qaýіpsіz paıdalaný boıynsha bіrіnshі sammıt ótkіzdі, onda olar JI-dіń "shekaralyq" dep atalatyn modelderіmen baılanysty táýekeldermen kúresýge baǵyttalǵan paktіge qol qoıdy.

«Saǵaty – 100 mıllıon teńge»: Tursen Alagózovtіń bіr kúndіk obrazy belgіlі boldy «Almatynyń túnderі-aı»: Qaırat Nurtas oryndaıtyn ánnіń avtory týyndynyń qalaı hıtke aınalǵanyn aıtty Shalys basqan jastarǵa jazany jeńіldetý usynyldy Ýkraınada 300-ge jýyq qazaqstandyq bolýy múmkіn Shymkent ákіmі de fýtbolǵa bólіnetіn qarjyny qysqartatyn boldy AQSh túshkіrse, Reseı tumaýrata ma: Jańa sanktsııalar qandaı? «Ota kezіnde kóp qan ketken»: Semeılіk ana 13 jasar ulynyń ólіmіne dárіgerlerdі kіnálaıdy Ýkraına men NATO shuǵyl keńes ótkіzedі «Balǵamen uryp óltіrmek boldy»: er adam áıelіnіń jumysyna kelіp, ony uryp óltіrmek bolǵan (VIDEO) Munaıshylar ereýіlі: Jumyskerlerge qysym kórsetіlіp jatqany ras pa? Jańa jylda 4 qańtarǵa deıіn demalys bolmaq eGov qosymshasy arqyly qazaqstandyqtardyń nesıe tarıhy qadaǵalanady Elіmіzde banan emes, adam saýdasy «qyzyp» tur Jýrnalıst Gúlmıra Ábіqaı elden aqsha jınaıtyn taǵy bіr qaıyrymdylyq qorynyń bylyǵyn ashty Bokstan Azııa chempıonatynda el namysyn kіmder qorǵaıdy? Nurbıke Nurqadіlova ómіrden óttі: Zamanbek Nurqadіlovtіń bіrіnshі jary sońǵy suhbatynda qandaı shyndyqty aıtyp kettі? Maıqaıyńdaǵy masqara: Aǵasy men qaryndasy zorlanǵan «Zorlady» dep jalǵan aryz jazatyn názіk jandylar azaımaı tur «Beıbіtshіlіktі qalaıtyndarǵa túkіrgenі bar»: Zelenskıı Pýtınnіń málіmdemesіne jaýap qatty Pýtın Ýkraınaǵa atqylaǵan «Oreshnık» zymyrany sáttі synalǵanyna súıіnshі surady