-
23 ноември 2023 12:47
- 2662
- 2
Teхнологичният свят беше разтърсен от изненадващото отстраняване на Сам Алтман от собствената му компания OpenAI и от внезапния обрат с връщането му в борда.
Стартъпът направи революция в масовата употреба на ChatGPT – езиков модел, базиран на изкуствен интелект, който убедително възпроизвежда човешко слово и може да води диалог.
Мотивите за уволнението му така и не станаха съвсем ясни. Но ден след завръщането му начело на OpenAI, агенция „Ройтерс“ съобщи за ключови събития, които биха могли да хвърлят светлина върху събитията на 17 ноември.
Непосредствено преди освобождаването му, няколко служители на OpenAI изпращат писмо до борда на директорите. В него те предупреждават за голямо откритие в областта на изкуствения интелект, което според тях може да застраши човечеството, съобщава агенцията, като се позовава на запознати със случилото се.
Според източниците, именно писмото е един от факторите, довели до отстраняването на Алтман. OpenAI отказва коментар по темата, но един от служителите признава за вътрешно съобщение до служителите за проект, наречен Q* (или Q Star), и писмо, изпратено до борда на директорите.
Какво е проект Q*?
Някои служители в OpenAI смятат, че Q* може да се окаже пробив в търсенето на т.нар. изкуствен общ интелект (AGI). Такова е и мнението на един от служителите на компанията, който говори пред „Ройтерс“, цитирана от "Булевард България".
OpenAI определя общия изкуствен интелект като автономни системи, които надминават хората в повечето икономически значими задачи. Източник, пожелал анонимност, разказва, че новият AI-модел е успял да реши отделни математически задачи, които имат само един верен отговор. Математическите умения на алгоритъма все още са на нивото на материала, преподаван в основното училище. Самият факт, че се справя с подобни задачи обаче, кара разработчиците да са много оптимистични за бъдещия успех на Q*.
Агенция „Ройтерс“ отбелязва, че екипът не е имал възможност независимо да провери възможностите на проекта.
С възможности на нивото на човешкия интелект
Изследователите смятат, че математиката е лимитът на развитието на генеративния изкуствен интелект, върху който е базиран ChatGPT.
Моделът е добър в писането и превода на езици. Той прогнозира следващата дума на база на статистическите данни, но отговорите на един и същ въпрос могат да варират в широки граници и да дадат грешни отклонения - т.нар. "халюцинации".
Овладяването на математиката, където верният отговор е само един, предполага, че изкуственият интелект ще има по-големи способности за разсъждение, наподобяващи човешкия интелект.
За разлика от калкулатора, който може да решава ограничен брой операции, общият изкуствен интелект може да обобщава, да учи и да разбира.
Q* изглежда като комбинация между два термина в компютърните науки:
А* (a star) е алгоритъм за търсене на най-оптималния път между начална и крайна точка в една структура от данни(например, избира отговора, намирайки най-късото разстояние, най-бързото време, и др.).
Q-learning е друг термин, който обозначава модел на самообучение чрез проба-грешка. Моделът се тренира да имитира начина, по който децата се научават на нови умения. Добрите действия се награждават и подкрепят, а лошите действия се наказват.
"Q" обозначава "качеството" на взетото решение.
* обозначава "оптимален избор".
Ако наистина има пробив в смесването между двата модела, теоретично той би могъл да се използва за създаване на изкуствен интелект, който се самопоправя и да се учи сам, използвайки системи, базирани на ясни правила - математика или логика.
Възможно е новият модел да може сам да оценява колко близко е до правилния отговор и да използва тази информация, за да стига до верния резултат по-бързо и с по-малко стъпки. Именно за мощта и потенциалната опасност на изкуствения интелект предупреждават част от екипа на OpenAI в писмо до борда на директорите непосредствено преди Сам Алтман да бъде освободен.
Източниците на „Ройтерс“ така и не посочват конкретните рискове, но темата отдавна се коментира сред учените.
Едно от опасенията е какво ще се случи, ако технологията "поумнее" до такава степен, че прецени, че унищожаването на човечеството е в неин интерес.
В писмото се съобщава още, че е сформиран екип от учени от различни звена, който трябва да проучи оптимизирането на моделите, базирани на изкуствен интелект, така че в даден момент те да могат да разсъждават и потенциално да вършат научна дейност.
Преди седмица, на среща на върха на Азиатско-тихоокеанското икономическо сътрудничество в Сан Франциско, Алтман обяви, че се очертава голям напредък в областта на изкуствения интелект.
Ден по-късно бордът на директорите уволни Сам Алтман, отбелязва „Ройтерс“ в заключение. Изненадващото отстраняване на Алтман на 17 ноември хвърли OpenAI в хаос. Решението на борда беше взето с подкрепата на един основните двигатели зад ChatGPT Иля Сутскевер. Впоследствие той се извини за решението и се включи в писмото на служителите с призив за връщане на Алтман начело на компанията. Близо 700 души от OpenAI заявиха във въпросното писмо, че са готови да напуснат, ако бордът на директорите не върне Алтман.
Така Алтман се завърна начело на ОpenAI само пет дни по-късно и обяви, че ще засили партньорството с Microsoft в областта на изкуствения интелект.
Последвайте канала на
Свързани новини
Дийпфейк порнографията, генерирана от изкуствен интелект, унищожава реални човешки животи
06 ноември 202316:35
Илън Мъск представя утре нова технология за изкуствен интелект
03 ноември 202320:14
Човек се самоуби, подтикнат от изкуствен интелект
31 октомври 202323:07
Изтъкнат британски астроном: Извънземният живот може да е форма на изкуствен интелект
31 октомври 202310:56
Стартира проектът Open Empathic за създаване на изкуствен интелект за разпознаване на човешките емоции
30 октомври 202314:32
Изкуствен интелект стана директор на училище
22 октомври 202321:24
Брилянтен гол не стигна на ЦСКА 1948 за точка срещу Арда
Голямата звезда на Лудогорец претърпя операция
ЦСКА - София готви два сериозни трансфера
Официално: Локо (Пловдив) и Любо Пенев се разделиха
Везенков изстреля Олимпиакос на върха в Гърция
Кристина Златева пред Sportal.bg: Мечтата ми е да се утвърдя в топ 5 в света на женския билярд
Коментари 2
Добави2023.11.23 | 19:00
Добави коментар
Водещи новини
Бойко Борисов: Ако след изборите нямаме голям резултат, няма да има мнозинство между евроатлантическите партии и математиката няма да излезе
21 октомври 202419:09
Експерти: Има апатия, защото хората спряха да проявяват интерес към политиката
21 октомври 202418:02
Свидетел на катастрофата, при която на пешеходна пътека загина 15-годишният Филип, с разказ за трагедията
21 октомври 202418:34
Самотно живеещ 62-годишен мъж загина при пожар в дома си
21 октомври 202418:12
Водещите новини! Земетресение близо до София. Оцеляла от нападението на „Хамас“ от миналата година се самоуби на рождения си ден
21 октомври 202419:13
Атанас Запрянов: Трябват ни качествено подготвени хора, които да оперират със сложните високотехнологични оръжейни системи
21 октомври 202421:27
Киев: Отговорен за смъртта на над 60 мирни украинци руски командир е убит с чук
21 октомври 202418:16
Почина първият вокалист на Iron Maiden Пол Ди'Ано
21 октомври 202420:27
Луксозна вила в Източна Германия е "окупирана" от котки вече 30 години
21 октомври 202421:29
2023.11.23 | 21:09