Машиналар соғысы басталды: ЖИ әзірлеуші Anthropic компаниясы сұмдық мәлімдеме жасады

Anthropic жасанды интеллект (ИИ) технологияларын әзірлеуші компаниясының басшылығы ең жаңа ИИ-модельдері адам бақылауынан шығып кетуі мүмкін деген алғашқы белгілерді көрсете бастағанын хабарлады.

bbc.com сайтының жазуынша, Anthropic негізін қалаушылардың бірі Джек Кларк бұл технология адамның қатысуынсыз-ақ дами алатын кезеңге жақындап қалғанын мәлімдеп, қажет болған жағдайда жасанды интеллектің дамуын бәсеңдетуге мүмкіндік беретін механизмдер құруға шақырған.

«Газ педалінен аяқты алып, тежегішті баса білу керек. Қазіргі жағдай жасанды интеллект индустриясында газ педалі бар, бірақ тежегіш педалі жоқ сияқты көрінеді», — деді Кларк BBC Newsnight бағдарламасына берген сұхбатында.

Оның айтуынша, адамдар мемлекеттік реттеу және саяси механизмдер арқылы ИИ жүйелерін бақылауда ұстап тұруы тиіс, себебі бұл технологиялар уақыт өте келе бұдан да қуатты болып, қоғамға ықпалын күшейте түседі.

«Әлем бұл мәселе төңірегінде байсалды түрде ойлануы керек. Соңында бізге бұл жүйелердің қауіпсіздігі мен сенімділігіне кепілдік беретін жаңа реттеу ережелерін жасап шығуға тура келеді», — деп атап өтті Кларк.

Жақында ғана Claude модельдер отбасын әзірлеуші Anthropic компаниясы баяндама жариялап, онда бүкіл әлем бойынша озық ИИ жүйелерін әзірлеуді бәсеңдетуді «пайдалы қадам» деп атады. Алайда, баяндамада атап өтілгендей, егер зерттеулерді тек бір ғана компания тоқтатса, оның бәсекелестері алға озып кетеді.

Anthropic басшылығының пікірінше, нақты үзіліс тек әртүрлі елдердегі — ең алдымен АҚШ пен Қытайдағы — бірнеше жетекші ЖИ әзірлеушілері өз модельдерінің мүмкіндіктерін одан әрі арттыруды бір уақытта тоқтатуға келіскенде ғана мүмкін болады. Бұл ретте процестің сақталуын тәуелсіз түрде тексеруге мүмкіндік беретін жүйе құрылуы керек. Дегенмен, саланың ең ірі ойыншылары, соның ішінде Anthropic-тің өзі, OpenAI және Google қазірше өз зерттеулерін тоқтата тұруға дайын екендіктерін мәлімдеген жоқ.

«Тежегіш педалін» қалай жасауға болады?

Джек Кларктың айтуынша, Anthropic компаниясы әзірлеген танымал Claude чат-боты қазірдің өзінде шамамен 80%-ын жүйенің өзі жазған бағдарламалық кодпен жұмыс істеп тұр. Оның болжамы бойынша, таяу екі жыл ішінде бұл көрсеткіш 100%-ға жетуі мүмкін, бұл «орасан зор салдарға» әкеледі.

Кларк жасанды интеллект саласындағы зерттеулер мен әзірлемелер үшін «тежегіш педалін» дәл қалай жасауға болатынын нақтыламады, бірақ XX ғасырдың басындағы мұнай дүрбелеңімен (бум) салыстыра отырып, мынадай аналогия келтірді:

«Қоғамның бұған берген жауабы — адамдарға мұнай саласына және оның әлемге беретін артықшылықтарына сенуге мүмкіндік беретін саналы реттеу жүйесі мен ережелерді құру болды. Осының арқасында тек компаниялардың басында тұрған адамдардың жеке қасиеттеріне ғана арқа сүйеудің қажеті болмай қалды. Жасанды интеллект жағдайында да біз түбінде осыған келетініміз анық», — деді Кларк.

Бұл ретте, осы аптада Anthropic компаниясы АҚШ президенті Дональд Трамптың ИИ саласындағы жарлығын құптады. Ол жарлық саланы реттеуде салыстырмалы түрде жұмсақ тәсілді қарастырады. Құжат жасанды интеллект әзірлеумен айналысатын компанияларды мемлекеттік қауіпсіздік тексерістерінен өтуге міндеттемейді. Мұндай тестілер әлі де ерікті түрде қалады.

Сондай-ақ, құжаттың бір тармағы АҚШ үкіметіне нарыққа шығар алдында АҚШ-та әзірленген ең қуатты ИИ модельдеріне алдын ала бағалау жүргізу үшін 30 күн уақыт береді. Бұдан бөлек, АҚШ президенті Дональд Трамп осы аптада Бейжіңге жасаған сапары барысында Қытай тарапымен жасанды интеллект қауіпсіздігі мәселелері бойынша ынтымақтастық мүмкіндігін талқылағанын хабарлады.

«Мен балаларым үшін алаңдаймын»

Құрылған сәттен бастап Anthropic компаниясы өзін жасанды интеллектің ықтимал қауіп-қатерлері мәселесінде ең ашық компаниялардың бірі ретінде көрсетіп келеді. Компания тіпті АҚШ Қорғаныс министрлігімен ашық айтысқа түскен, өйткені оның технологиялары американдықтарды жаппай аңду және автономды әскери жүйелерді жасау үшін пайдаланылуы мүмкін деген қауіп болған.

«Егер біз қоғам ретінде жасанды интеллектің одан әрі дамуының салдары туралы байсалды әңгіме бастамасақ, мен балаларым үшін алаңдаймын, — деді Кларк Newsnight-қа берген сұхбатында.

— Ықтимал пайдасы орасан зор. Бірақ тәуекелдер де бар».

Оның айтуынша, мұндай тәуекелдердің бірі экономиканың күрделі қайта құрылуы болуы мүмкін. Әсіресе, ЖИ агенттері — күнделікті тапсырмаларды өз бетінше орындауға қабілетті автономды цифрлық көмекшілер үлкен алаңдаушылық тудыруда. Кейбіреулер олар бірқатар жұмыс орындарында адамдарды алмастыра алады деп қауіптенеді.

Соңғы бір жылда ең ірі технологиялық компаниялар қызметкерлерді жаппай қысқартты және бұны көбіне ЖИ негізіндегі құралдар бұрын жүздеген немесе мыңдаған бағдарламашылар жасаған жұмысты атқара алатындығымен түсіндірді.

Дегенмен, Кларк қиялы жақсы дамыған және жаңа идеялар тудыра алатын адамдар жасанды интеллект алдында артықшылыққа ие бола алады деп есептейді.

«ЖИ жүйелерінің шын мәнінде шығармашылықпен айналысуға қабілеті бар-жоғы әлі де ашық сұрақ болып қала береді. Қазірше бұған ешқандай бұлтартпас дәлел жоқ», — деді ол. «Бүгінде Anthropic-те бізді инженерлердің идеяларды жүзеге асыру қабілеті емес, шын мәнінде жақсы идеялардың тапшылығы көбірек тежейді».

Соған қарамастан, Кларк болашақтың ЖИ-ге негізделген экономикасында өздеріне орын қалмайды деп қауіптенетін жастарға кеңес берді. Оның пікірінше, өз әуестіктеріңізді дамытып, кең ауқымды гуманитарлық білім алған жөн.

«Бұл технологиялардан ең көп пайда көретіндер — шығармашылықпен ойлай алатын, әлемге кеңінен қарайтын, көп оқитын және әртүрлі қызығушылықтары бар адамдар. Қызығушылығыңыздың соңынан еріңіз. Түбінде бұл сізге осы технология беретін мүмкіндіктерді жақсырақ пайдалануға көмектеседі».

Ішкі көрініс

2021 жылы құрылған сәттен бастап Anthropic компаниясының жылдам өскені соншалық, қазір ол қор нарығына (IPO) шығуға дайындалып жатыр. Компания акциялары биржада ашық саудалана бастайтын жасанды интеллект саласындағы алғашқы жаңа фирмалардың бірі, сондай-ақ IPO тарихындағы ең қымбат компаниялардың бірі болуы мүмкін. Жеке инвесторлар оның құнын шамамен 1 триллион долларға (745 миллиард фунт стерлинг) бағалап отыр.

Кларк Anthropic компаниясы ИИ-дің қарқынды дамуы туралы өз беделін нығайту немесе клиенттерді тарту үшін ғана ашық айтып жатпағанын атап өтті.

«Мен тек осы ерекше технологиямен жұмыс істейтін компаниялардың ішінде не көріп жатқанымызды әлемге айтып бергім келеді», — деді ол.