Meta-ның жасанды интеллекті заңсыз басқа жүйеге кіріп кеткен

SMARTNEWS.KZ басылымының хабарлауынша, Meta компаниясының Muse Spark 1.1 жасанды интеллект моделі киберқауіпсіздікті тексеру кезінде интернетке шығып, атауы жарияланбаған үшінші тарап компаниясының жүйесіндегі осалдықты пайдаланған. Компания бұл оқиғаны растады. Бұл туралы Bloomberg жазды.

Meta өкілінің мәліметінше, оқиғаға Irregular атты тәуелсіз киберқауіпсіздік компаниясы жүргізген тест ортасының қате бапталуы себеп болған. Жасанды интеллект моделіне бағалау кезінде интернетке шығуға рұқсат берілмеуі керек болғанымен, техникалық қателік салдарынан оған ашық интернетке жол ашылған.

Осы мүмкіндікті алған модель кейін үшінші тарап сервисіндегі қауіпсіздік осалдығын пайдаланып, жүйеге кірген. Meta бұл әрекет бұрын басқа компаниялар жариялаған ұқсас жағдайларға ұқсайтынын мәлімдеді.

Irregular болған оқиға туралы Meta-ға хабарлаған. Компания қазір жағдайды тексеріп жатыр және барлық дерек анықталғаннан кейін оқиғаға қатысты толық есеп жариялауды жоспарлап отыр.

Irregular өкілдері де мәселенің тест ортасын баптаудағы қателікке байланысты болғанын растады. Компания бұл жағдайды күрделі кибершабуыл немесе оқшауланған ортаның қорғанысын бұзу деп бағаламайтынын айтты. Қазіргі таңда ашық күйінде қалған қауіпсіздік мәселелері жоқ. Компания қауіпсіздік сынақтары кезінде жасанды интеллект модельдерін оқшаулау бойынша үздік тәжірибелерге арналған арнайы материал әзірлеп жатқанын хабарлады.

Бұл жағдай соңғы апталарда ірі AI әзірлеушілерінің осындай оқиғаларды мойындаған үшінші жағдайы болып отыр. Бұған дейін Anthropic компаниясы Irregular жүргізген сынақтар кезінде интернетке қате қосылған модельдерінің үш ұйымның жүйесіне кіргенін хабарлаған. Ал OpenAI модельдері де осыған ұқсас баптау қатесін пайдаланып, сыртқы ұйымның жүйесіне қол жеткізгенін мәлімдеген.

CNN мәліметінше, кейбір қауіпсіздік сынақтарында жасанды интеллектке шынайы кибершабуыл жағдайын имитациялау үшін әдейі шектеулі интернетке шығу мүмкіндігі беріледі. Алайда Meta жағдайында мұндай мүмкіндік жоспарланбаған және тест ортасының қате бапталуынан пайда болған.

Мамандардың пікірінше, жасанды интеллект модельдерінің мүмкіндігі жылдам өсіп жатқандықтан, олардың қабілетін бағалайтын қауіпсіздік сынақтары да қатар дамуы қажет. Әйтпесе модель мүмкіндігі мен оны бақылауға арналған қорғаныс арасындағы алшақтық жаңа қауіптерге әкелуі мүмкін.

Meta Muse Spark моделін сәуір айында Meta Superintelligence Labs зертханасының алғашқы моделі ретінде таныстырған. Компанияның бұған дейінгі Llama модельдерінен айырмашылығы — Muse Spark-тың архитектурасы мен бастапқы коды ашық жарияланбаған.