Нужен ли е на света проект „Манхатън“ за свръхинтелигентен AI?

Въпреки че сравняването на AI системите с ядрени оръжия може да звучи крайно, световните лидери вече смятат технологията за водещо военно предимство. Пентагонът вече твърди, че AI помага за ускоряване на военната верига на убийства.

„Проект „Манхатън“ за AGI предполага, че съперниците ще се примирят с трайния дисбаланс, вместо да се опитат да го предотвратят“, пишат съавторите, цитирани от TechCrunch. „Това, което започва като стремеж към свръхоръжие и глобален контрол, рискува да предизвика враждебни контрамерки и ескалация на напрежението, като по този начин подкопае самата стабилност, която стратегията има за цел да осигури“.

В публикуван в сряда документ бившият главен изпълнителен директор на Google Ерик Шмидт, главният изпълнителен директор на Scale AI Александър Уанг и директорът на Центъра за безопасност на изкуствения интелект Дан Хендрикс са категорични: САЩ не трябва да се стремят към разработване на AI системи със „свръхчовешки“ интелект, известни още като AGI, в стила на проекта „Манхатън“.

Администрацията на Тръмп изглежда твърдо решена да продължи напред в развитието на американския AI. Въпреки това, както отбелязват съавторите, решенията на Америка относно AGI не съществуват във вакуум. Докато светът наблюдава как Америка се стреми да разшири границите на технологията, Шмидт и неговите съавтори предполагат, че може би е по-разумно да се възприеме отбранителен подход.

В документа, озаглавен „Стратегия за свръхинтелигентност“, се твърди, че агресивният стремеж на САЩ да контролират изключително свръхинтелигентните AI системи може да предизвика ожесточени ответни мерки от страна на Китай. Te потенциално могат да дойдат под формата на кибератака, която да дестабилизира международните отношения, пише Profit.bg.

Документът „Стратегия за суперинтелигентност“ оспорва идеята, поддържана от няколко американски политически и индустриални лидери през последните месеци, че подкрепяна от правителството програма за създаване на AGI е най-добрият начин САЩ да се конкурира с Китай.

Резултат от съавторство на три изключително влиятелни фигури в американската индустрия за изкуствен интелект, документът се появява само няколко месеца, след като комисия на Конгреса на САЩ предложи да се финансира разработката на AGI в стил „проект Манхатън“. В случая се визира американската програма за атомна бомба през 40-те години на миналия век. Министърът на енергетиката на САЩ Крис Райт наскоро заяви, че САЩ са в „началото на нов проект „Манхатън“ за AI, докато стоеше пред суперкомпютърна площадка заедно със съоснователя на OpenAI Грег Брокман.

Това предложение е особено забележително за Шмидт, който преди е говорил много за необходимостта САЩ да се конкурират агресивно с Китай в разработването на усъвършенствани AI системи. Само преди няколко месеца той публикува статия, в която казва, че DeepSeek бележи повратна точка в американската надпревара с Китай.

Шмидт, Уанг и Хендрикс предлагат САЩ да изместят фокуса си от „спечелването на надпреварата за свръхинтелигентност“ към разработването на методи, които да възпират други държави да създават свръхинтелигентен AI. Съавторите твърдят, че Вашингтон трябва да „разшири арсенала си от кибератаки, за да деактивира заплашителни AI проекти“, контролирани от други държави, както и да ограничи достъпа на противниците си до усъвършенствани чипове за AI и модели с отворен код.