"Залогът не може да бъде по-висок": водещи експерти твърдят, че OpenAI е предала човечеството в името на печалбата

В критично отворено писмо, водещи фигури от AI индустрията призовават OpenAI да докаже, че "не е предала човечеството в името на печалбата".

Отвореното писмо е подписано от 4 нобелови лауреата, сред които "кръстникът на AI" Джефри Хинтън. Също - създателят на криптовалутата Етериум Виталик Бутерин и изследователят Гари Маркъс.

Писмото е насочено към статута на OpenAI като нестопанска организация и обявената ѝ мисия "да служи на цялото човечество".

Според Хинтън и подписалите писмото има риск обещанието да не бъде спазено, а това може да е във вреда на цялото човечество, пише dir.bg.

Както се посочва в писмото, OpenAI е обещала да гарантира, че бъдещият изкуствен общ интелект (AGI), или интелект на човешко ниво, "ще бъде от полза за всички."

Но с опитите на OpenAI да се дистанцира от нестопанския си произход и да се преструктурира като търговска компания с цел печалба, дългият списък с подписали се вече не вярва, че OpenAI възнамерява да спази ангажимента си към човечеството.

"Решенията, които вземате относно управление, разпределение на печалбите и отчетност, ще оформят не само бъдещето на вашата организация, но и бъдещето на цялото общество."

Разбира се, това не е нито първото, нито последното отворено писмо, насочено към OpenAI.

По-рано тази година, много от подписалите се в настоящото писмо вече бяха изпратили две писма до главните прокурори на Калифорния и Делауеър, в които призоваваха да бъде спряно преструктурирането на компанията.

Тогава те твърдяха, че преминаването към структура с цел печалба ще подкопае мисията на компанията да бъде от полза за човечеството.

"Призоваваме за поне основно ниво на прозрачност относно това как тази трансформация ще повлияе на вашите законови ангажименти към обществото," пишат подписалите, сред които са и някои бивши служители на OpenAI, като изследователят по етична съгласуваност Джейкъб Хилтън и Хелън Тонър от Джорджтаун, която участва в опита за отстраняване на Сам Алтман при неуспешния CEO преврат през ноември 2023 г.

• Ще продължи ли OpenAI да има правно задължение да дава приоритет на своята благотворителна мисия пред печалбите?

• Ще продължи ли организацията с нестопанска цел на OpenAI да има пълен управленски контрол над OpenAI?

• Кои от директорите на организацията с нестопанска цел на OpenAI ще получат дялове в новата структура на OpenAI?

• Ще поддържа ли OpenAI тавани на печалбата и ще спазва ли ангажимента си да отделя излишните печалби за благото на човечеството?

• Планира ли OpenAI да комерсиализира AGI, след като го разработи, вместо да се придържа към обещанието си да запази контрола на AGI в ръцете на организация с нестопанска цел за благото на цялото човечество?

• Ще се ангажира ли отново OpenAI с принципите в своята Харта, включително с обещанието си да спре да се конкурира и да започне да помага, ако друга отговорна организация е близо до AGI?

• Ще разкрие ли OpenAI какво е заложено на карта за обществото при преструктурирането?

А през изминалото лято, група бивши и настоящи служители на OpenAI направиха още по-смели твърдения в друго отворено писмо, обвинявайки компанията, че ги заставя да мълчат относно потенциалните опасности, които може да възникнат, ако проектите ѝ се реализират.

При положение, че много от подписалите се очевидно вярват, че самото съществуване на човечеството е заложено на карта, тази непрестанна поредица от отворени писма към OpenAI може да се разглежда като нещо положително за обществото — въпреки че е трудно да се каже какво реално въздействие ще имат те в крайна сметка.