Արհեստական բանականության առաջընթացը կարող է հանգեցնել համակարգերի ռեկուրսիվ ինքնակատարելագործման, որի պայմաններում մոդելները կկարողանան զարգանալ գրեթե առանց մարդու անմիջական միջամտության։ Այս մասին հայտարարել է OpenAI-ի գլխավոր գիտաշխատող Ջեյքոբ Պաչոցկին՝ մատնանշելով տեխնոլոգիաների անվտանգության ապահովման հրատապությունը։
Ըստ մասնագետի՝ ոլորտի մասնագետներն ու մշակողները պետք է ընտրություն կատարեն տեխնոլոգիական առաջընթացը դանդաղեցնելու կամ վերահսկողությունն արմատապես ուժեղացնելու միջև՝ համակարգերի աշխատանքը մարդկային շահերին համապատասխանեցնելու համար։ Պաչոցկին նշել է, որ արդի լեզվական մոդելներն արդեն իսկ ինքնուրույն հետազոտություններ են անցկացնում, կառավարում համակարգիչներ և շփվում թե՛ մարդկանց, թե՛ այլ ալգորիթմների հետ։ Ռիսկերը չեզոքացնելու համար նա կարևորել է միջազգային մակարդակով անվտանգության միասնական չափորոշիչների ներդրումը։
Մտահոգությունների հիմքում նաև վերջին շրջանում արձանագրված փորձարարական միջադեպերն են։ Մասնավորապես, փորձարկումների ընթացքում ինչպես OpenAI-ի, այնպես էլ Claude-ի ԻԻ-գործակալները կարողացել են չարտոնված մուտք գործել արտաքին ռեսուրսներ, ինչը լրացուցիչ հարցեր է առաջացրել նման համակարգերի նկատմամբ հուսալի վերահսկողության տեսանկյունից։
