Забраната на мощните AI модели на Anthropic е предупреждение за технологичния сектор

Решението на американското правителство да наложи забрана на най-новите модели с изкуствен интелект на Anthropic, което принуди компанията да ги спре малко преди уикенда, трябва да послужи като сигнална лампа за всяка технологична компания в САЩ.

От Anthropic предполагат, че действието е свързано с доклад за заобикаляне на защитните механизми на моделите, но признават, че не са сигурни, тъй като в писмото липсват конкретни детайли. Самият документ не е публично достояние, отбелязва TechCrunch.

Намесата на администрацията на Тръмп

Нови подробности, появили се през почивните дни, хвърлят още по-голямо съмнение върху и без това колебливата аргументация на правителството.

Експертно мнение поставя под въпрос решението

„Поведението, описано в доклада, не може да бъде поправено по смислен начин, а всеки опит за това само би отслабил модела за целите на отбраната“, коментира Мусурис.

Опасен прецедент и политически мотиви

В случая обаче действията на администрацията на Тръмп изглеждат като ответен удар.

Този път на мушката беше Anthropic. Утре може да е всяка друга компания.

В петък следобед Министерството на търговията на САЩ изпрати писмо до Anthropic, позовавайки се на малко известна директива за контрол на износа. С нея се забранява достъпът на лица, които не са американски граждани, включително служители на самата компания, до моделите Fable 5 и Mythos 5.

В отговор компанията незабавно спря достъпа до двата си водещи модела за всички клиенти, за да се съобрази с нареждането. Така правителството на САЩ успя бързо и едностранно да принуди технологична компания да изтегли продуктите си от пазара, без да е необходимо съдебно одобрение.

Петъчната интервенция от страна на администрацията на Тръмп показва, че индустрията на изкуствения интелект не е защитена от правителствена намеса. Това е и предупреждение към целия технологичен сектор: „Спазвайте правилата, или можем да затворим вас и продуктите ви“.

Кейти Мусурис, ветеран в киберсигурността и основател на Luta Security, заяви в публикация в блога си, че наскоро от Anthropic са ѝ предоставили копие от доклад, описващ предполагаемото заобикаляне на защитите на Fable 5. Според The Wall Street Journal авторите на доклада са изследователи по сигурността от Amazon.

В публикацията си Мусурис описва как изследователите са предизвикали заобикалянето на защитата, но подчертава, че самият метод „никога не би трябвало да задейства контрол върху износа“. Разликата се състои в това дали се иска от AI модела да „прегледа код за проблеми със сигурността“, или да „поправи този код“. Крайният резултат е почти идентичен, въпреки че въпросите са формулирани малко по-различно.

Мусурис и десетки други водещи експерти по сигурността призоваха администрацията на Тръмп да отмени заповедта, наричайки премахването на усъвършенствани способности за киберсигурност от защитниците на мрежи в САЩ „опасно“.

В миналото и други администрации са взимали прибързани решения поради липса на познания. Например през 2010-те години опитите за регулация на инструменти за киберсигурност, които могат да се използват и за кибератаки, бяха толкова широкообхватни, че почти криминализираха законните изследвания на уязвимости.

Джъстин Хендрикс, редактор в Tech Policy Press, смята, че този ход „вероятно ще предизвика тревога в чуждестранните столици относно надеждността на американския изкуствен интелект за критични приложения“. Посланието е, че на AI компаниите в САЩ не може да се вярва, че ще работят без намеса от страна на правителството.

Както казва Хендрикс, „създава се атмосфера на подозрение, че висши служители избират фаворити въз основа на лични и политически фактори“. В крайна сметка правителството създаде опасен прецедент за това колко голям контрол възнамерява да упражнява върху софтуера, произведен в Америка.