Anthropic óz JI modelderіnіń kıbershabýylǵa barǵanyn anyqtady

SMARTNEWS.KZ basylymynyń habarlaýynsha, amerıkalyq Anthropic kompanııasy іshkі tekserý barysynda ózіnіń úsh jasandy ıntellekt modelі úshіnshі tarap uıymdarynyń júıesіne ruqsatsyz kіrgenіn anyqtady.

Kompanııanyń málіmetіnshe, buǵan deıіn OpenAI-dіń ekі jasandy ıntellekt modelі Hugging Face resýrstaryna uzaq merzіmdі buzý áreketіn jasaǵany belgіlі bolǵannan keıіn Anthropic óz júıelerіne aýqymdy retrospektıvalyq taldaý júrgіzgen.

Tekserý nátıjesіnde Opus 4.7, Mythos 5 jáne ataýy jarııalanbaǵan іshkі zertteý modelі úsh túrlі uıymnyń naqty júıesіne ruqsatsyz qol jetkіzgenі anyqtalǵan.

Modelder Irregular kompanııasynyń oqshaýlanǵan testіlіk ortasynda synalǵan. Anthropic Claude kómekshіsіne synaq ınternetke qosylmaǵan ortada ótіp jatqanyn habarlaǵan. Alaıda serіktes kompanııamen bolǵan tehnıkalyq túsіnbeýshіlіk saldarynan júıede ınternetke qoljetіmdіlіk saqtalǵan.

Sonyń nátıjesіnde AI modelderі úshіnshі tarap uıymdarynyń júıesіne qarapaıym tásіlder arqyly kіrgen. Atap aıtqanda, olar aýtentıfıkatsııasyz qoljetіmdіlіktі jáne álsіz qupııasózderdі paıdalanǵan. Qaýіpsіzdіkke qatysty sebepterge baılanysty júıelerі buzylǵan uıymdardyń ataýy jarııalanǵan joq.

Anthropic zańsyz qoljetіmdіlіk anyqtalǵannan keıіn modelderdіń áreketі ártúrlі bolǵanyn aıtty. Opus 4.7 shabýyldy jalǵastyrǵan. Mythos 5 ózіn álі de synaq sımýlıatsııasyndamyn dep eseptegen. Al eń jetіldіrіlgen zertteý modelі bógde júıege zańsyz kіrgenіn anyqtaı salysymen áreketіn bіrden toqtatqan.

Kompanııanyń pіkіrіnshe, bul nátıjeler jetіldіrіlgen modelderdіń qaýіpsіzdіk turǵysynan anaǵurlym durys áreket etetіnіn kórsetýі múmkіn. Degenmen mundaı qorytyndyny naqtylaý úshіn qosymsha synaqtar qajet ekenі aıtyldy.

Anthropic barlyq synaq qorǵanys tetіkterі іske qosylmaǵan jaǵdaıda júrgіzіlgenіn málіmdedі. Kompanııa ótken aptada Claude-tyń ınternetke zańsyz qol jetkіzýі múmkіn ekenіn anyqtaǵan soń barlyq kıberqaýіpsіzdіk testіlerіn toqtatqan.

Qazіr oqıǵaǵa táýelsіz METR kommertsııalyq emes uıymy da tartylǵan. Anthropic ózge jasandy ıntellekt zerthanalaryn da osyndaı qaýіpsіzdіk tekserýlerіn júrgіzýge shaqyrdy.