Заплаха за човечеството: Какво е проектът Q*?

Слушай новината

Teхнологичният свят беше разтърсен от изненадващото отстраняване на Сам Алтман от собствената му компания OpenAI и от внезапния обрат с връщането му в борда.

Стартъпът направи революция в масовата употреба на ChatGPT – езиков модел, базиран на изкуствен интелект, който убедително възпроизвежда човешко слово и може да води диалог.

Мотивите за уволнението му така и не станаха съвсем ясни. Но ден след завръщането му начело на OpenAI, агенция „Ройтерс“ съобщи за ключови събития, които биха могли да хвърлят светлина върху събитията на 17 ноември.

Непосредствено преди освобождаването му, няколко служители на OpenAI изпращат писмо до борда на директорите. В него те предупреждават за голямо откритие в областта на изкуствения интелект, което според тях може да застраши човечеството, съобщава агенцията, като се позовава на запознати със случилото се.

Според източниците, именно писмото е един от факторите, довели до отстраняването на Алтман. OpenAI отказва коментар по темата, но един от служителите признава за вътрешно съобщение до служителите за проект, наречен Q* (или Q Star), и писмо, изпратено до борда на директорите.

OpenAI е създала ИИ, който може да застраши човечеството, малко преди уволнението на Алтман

Какво е проект Q*?

Някои служители в OpenAI смятат, че Q* може да се окаже пробив в търсенето на т.нар. изкуствен общ интелект (AGI). Такова е и мнението на един от служителите на компанията, който говори пред „Ройтерс“, цитирана от "Булевард България".

OpenAI определя общия изкуствен интелект като автономни системи, които надминават хората в повечето икономически значими задачи. Източник, пожелал анонимност, разказва, че новият AI-модел е успял да реши отделни математически задачи, които имат само един верен отговор. Математическите умения на алгоритъма все още са на нивото на материала, преподаван в основното училище. Самият факт, че се справя с подобни задачи обаче, кара разработчиците да са много оптимистични за бъдещия успех на Q*.

Агенция „Ройтерс“ отбелязва, че екипът не е имал възможност независимо да провери възможностите на проекта.

С възможности на нивото на човешкия интелект

Изследователите смятат, че математиката е лимитът на развитието на генеративния изкуствен интелект, върху който е базиран ChatGPT.

Моделът е добър в писането и превода на езици. Той прогнозира следващата дума на база на статистическите данни, но отговорите на един и същ въпрос могат да варират в широки граници и да дадат грешни отклонения - т.нар. "халюцинации".

"Халюциниране" е дума на годината, обяви Кеймбриджкият речник

Овладяването на математиката, където верният отговор е само един, предполага, че изкуственият интелект ще има по-големи способности за разсъждение, наподобяващи човешкия интелект.

За разлика от калкулатора, който може да решава ограничен брой операции, общият изкуствен интелект може да обобщава, да учи и да разбира.

Q* изглежда като комбинация между два термина в компютърните науки:

А* (a star) е алгоритъм за търсене на най-оптималния път между начална и крайна точка в една структура от данни(например, избира отговора, намирайки най-късото разстояние, най-бързото време, и др.).

Q-learning е друг термин, който обозначава модел на самообучение чрез проба-грешка. Моделът се тренира да имитира начина, по който децата се научават на нови умения. Добрите действия се награждават и подкрепят, а лошите действия се наказват.

"Q" обозначава "качеството" на взетото решение.

* обозначава "оптимален избор".

Програмист: Когато ИИ ни надмине по интелект, трябва да харесва хората, иначе - ще ни унищожи

Ако наистина има пробив в смесването между двата модела, теоретично той би могъл да се използва за създаване на изкуствен интелект, който се самопоправя и да се учи сам, използвайки системи, базирани на ясни правила - математика или логика.

Възможно е новият модел да може сам да оценява колко близко е до правилния отговор и да използва тази информация, за да стига до верния резултат по-бързо и с по-малко стъпки. Именно за мощта и потенциалната опасност на изкуствения интелект предупреждават част от екипа на OpenAI в писмо до борда на директорите непосредствено преди Сам Алтман да бъде освободен.

Източниците на „Ройтерс“ така и не посочват конкретните рискове, но темата отдавна се коментира сред учените.

Едно от опасенията е какво ще се случи, ако технологията "поумнее" до такава степен, че прецени, че унищожаването на човечеството е в неин интерес.

В писмото се съобщава още, че е сформиран екип от учени от различни звена, който трябва да проучи оптимизирането на моделите, базирани на изкуствен интелект, така че в даден момент те да могат да разсъждават и потенциално да вършат научна дейност.

Край на драмата: Алтман за завръща в OpenAI като CEO, но с нов борд на директорите

Преди седмица, на среща на върха на Азиатско-тихоокеанското икономическо сътрудничество в Сан Франциско, Алтман обяви, че се очертава голям напредък в областта на изкуствения интелект.

Ден по-късно бордът на директорите уволни Сам Алтман, отбелязва „Ройтерс“ в заключение. Изненадващото отстраняване на Алтман на 17 ноември хвърли OpenAI в хаос. Решението на борда беше взето с подкрепата на един основните двигатели зад ChatGPT Иля Сутскевер. Впоследствие той се извини за решението и се включи в писмото на служителите с призив за връщане на Алтман начело на компанията. Близо 700 души от OpenAI заявиха във въпросното писмо, че са готови да напуснат, ако бордът на директорите не върне Алтман.

Така Алтман се завърна начело на ОpenAI само пет дни по-късно и обяви, че ще засили партньорството с Microsoft в областта на изкуствения интелект.

Последвайте канала на