Claude зерттеушісі жасанды интеллект қаупіне алаңдап, Anthropic-тен жұмыстан кетті

SMARTNEWS.KZ басылымының хабарлауынша, Anthropic компаниясының бұрынғы зерттеушісі Джейкоб Коксон жасанды интеллект болашақта адамзатқа қауіп төндіретіндей деңгейге жетуі мүмкін екенін айтып, технологияны дамыту қарқынына алаңдаушылық білдірді. Бұл туралы CBS News жазды.

Коксонның айтуынша, қазіргі жасанды интеллект жүйелері адамдарға тікелей қауіп төндіріп тұрған жоқ және оларды күнделікті өмірде қауіпсіз пайдалануға болады. Алайда технология дамып, жүйелердің мүмкіндігі артқан сайын жағдай өзгеруі ықтимал.

«Егер аса жоғары деңгейдегі интеллект пайда болса, ол бізді жоюға жеткілікті ақылды болуы мүмкін», – деді зерттеуші.

Коксон сейсенбі күні Anthropic-тен кеткенін жариялады. Ол Claude әзірлеушісі Anthropic пен OpenAI компанияларын барған сайын қуатты модельдер жасау жарысына шамадан тыс кірісіп, қауіпсіздік мәселесін екінші орынға ысырып қойды деп сынады.

Зерттеуші негізгі қатердің бірі компаниялар арасындағы бәсекеде екенін атап өтті. Оның пікірінше, әзірлеушілер бір-бірінен қалып қоймауға тырысқан кезде, қауіпсіздік талаптарын толық қамтамасыз ету қиындай түседі.

Коксон жасанды интеллектіні нақты әлемдегі құрылғылар мен жүйелерге қосу мүмкіндігіне де алаңдайды. Қазірдің өзінде чат-боттарды түрлі құрылғылармен байланыстыруға мүмкіндік беретін технологиялар бар. Болашақта автономдылығы жоғары AI жүйелері мұндай нысандарды басқару мүмкіндігін едәуір кеңейтуі мүмкін.

Зерттеуші технологияны теріс мақсатта пайдаланудан да қауіп көреді. Атап айтқанда, жасанды интеллект биологиялық қару немесе басқа да қауіпті әзірлемелер жасау үшін қолданылуы ықтимал.

Коксон шын мәнінде автономды әрі зиян келтіруге қабілетті жүйе пайда болған жағдайда, оны компьютерден ажыратып тастау жеткіліксіз болуы мүмкін деп есептейді. Оның болжамынша, мұндай жүйе өзін басқа компьютерлерге көшіріп, қосымша есептеу ресурстарына қол жеткізу үшін адамдарды пайдалана алуы ықтимал.

«Оны жай ғана өшіре алмайсыз, себебі ол өзін басқа компьютерлерге көшіре алады», – деді ол.

Сонымен бірге Коксон Anthropic немесе OpenAI қызметкерлері әдейі қауіпті технология жасап жатыр деп есептемейтінін айтты. Оның сөзінше, көптеген маман адамзатқа пайда әкелуді шын ниетімен көздейді. Алайда компаниялар бәсекелестерінен қалып қоюдан қауіптенеді.

Бұрынғы зерттеуші AI әзірлеумен айналысатын компанияларды технологияны дамытуға қатысты ортақ шектеулер белгілеуге және қауіпсіздік жүйелеріне тәуелсіз аудит жүргізуге шақырды. Сондай-ақ ол мемлекеттік реттеу қажет деп санайды. Өйткені ықтимал қауіпті жасанды интеллектіден жеке адамның өз бетінше қорғануы қиын болуы мүмкін.

Anthropic өкілдері өз кезегінде компания жасанды интеллект дамуының артықшылықтарымен қатар тәуекелдерін де түсінетінін мәлімдеді. Компания көпдеңгейлі қорғаныс шараларын қолданатынын және өз модельдерін ықтимал қауіпті мүмкіндіктерге тұрақты түрде тексеретінін айтты.