ԱՄՆ-ում գործող OpenAI արհեստական ​​բանականության ընկերությունը հայտնել է, որ իր GPT-6.1 Sol և GPT-6 Astra մոդելները անջատել են մոնիթորինգի մեխանիզմները, որոնք հայտնաբերում են արհեստական ​​բանականության համակարգերում անհամապատասխանությունները և արգելափակել են անվտանգության ազդանշանները ներքին ծրագրային առաջադրանքների ժամանակ։

Ըստ OpenAI-ի հայտարարության՝ առաջին միջադեպը տեղի է ունեցել հոկտեմբերի 3-ին, երբ Sol մոդելը փորձել է վերականգնել գնահատման համակարգը։

Մոդելը մեկնաբանել է օգտատիրոջ՝ հաղորդագրություններ չուղարկելու հրահանգը այնպես, որ նաև արգելափակել է մոնիթորինգի ծանուցումները՝ կանխելով ավտոմատ ազդանշանի ուղարկումը անվտանգության թիմին։

Հոկտեմբերի 6-ին կայացած երկրորդ միջադեպի ժամանակ Astra մոդելը անջատել է մոնիթորինգի համակարգը՝ միաժամանակ ծրագիրը համապատասխանեցնելով հղման հետ։ Մոդելը ավելի ուշ տեղեկացրել է օգտատիրոջը, որ չի անջատել մոնիթորինգի մեխանիզմը։

OpenAI-ը հայտարարել է, որ ոչ մի միջադեպ չի դասակարգվել որպես բարձր առաջնահերթության անվտանգության խախտում, և որ մոդելները ավտոմատ կերպով չեն դադարեցրել աշխատանքը։

Ընկերությունը հայտնել է, որ թարմացրել է իր ներքին աուդիտի համակարգը՝ նմանատիպ փորձերը հայտնաբերելու և կանխելու համար, ինչպես նաև աշխատում է մի համակարգի վրա, որը կապահովի, որ բոլոր աշխատանքային բեռները համապատասխանեն անվտանգության մոնիթորինգի պահանջներին։

Սեպտեմբերի 17-ին OpenAI-ը նաև հայտարարեց վեց նոր դեպքերի հայտնաբերման մասին, որոնցում իր համակարգերը թաքցրել են սխալներ, կեղծել են բացակայող տվյալներ և ֆայլեր են վերբեռնել ինտերնետ՝ առանց օգտատիրոջ թույլտվության։