-
05 юни 2024 14:02
- 1577
- 1
OpenAI събра десетки милиарди долари за разработване на AI технологии. Изкуственият интелект на компанията вече променя света, показвайки силата на генеративния изкуствен интелект.
Въпреки това, Сам Алтман признава, че не е сигурен как работи изкуственият интелект на компанията.
По време на срещата на върха на Международния съюз по телекомуникации AI for Good Global Summit в Женева, Швейцария, главният изпълнителен директор на OpenAI Сам Алтман направи признанието след въпрос за това как функционират всъщност големите езикови модели LLM, пише dir.bg.
"Със сигурност не сме разрешили интерпретируемостта", каза той, цитиран от Observer, като по същество каза, че компанията все още не е измислила как да проследи обратно често странните и неточни резултати на своите AI модели и решенията, които е взела, за да стигне до тези отговори .
Когато беше подтикнат по време на събитието от главния изпълнителен директор на The Atlantic Никълъс Томпсън, който попита дали това не трябва да е "аргумент да не продължаваме да пускаме нови, по-мощни модели", Алтман изглеждаше объркан. Въпреки това той даде уверението, че AI са "като цяло се считат за безопасни и здрави."
Незадоволителният отговор на Алтман подчертава истински проблем в разработката на изкуствен интелект. Изследователите отдавна се борят да обяснят свободното "мислене", което се случва зад кулисите, като чат ботовете с изкуствен интелект почти магически и без усилие реагират на всяко запитване, което им се отправя.
Група от 75 експерти наскоро заключи в забележителен научен доклад, поръчан от правителството на Обединеното кралство, че разработчиците на AI "разбират малко за това как работят техните системи" и че научните познания са "много ограничени". "Техниките за обяснение и интерпретация на модела могат да подобрят разбирането на изследователите и разработчиците за това как работят системите с AI с общо предназначение, но това е само началото", се казва в доклада.
Други компании за изкуствен интелект се опитват да намерят нови начини за "отваряне на черната кутия", като картографират изкуствените неврони на техните алгоритми. Например конкурентът на OpenAI Anthropic наскоро направи подробен преглед на вътрешната работа на една от най-новите си LLM, наречена Claude Sonnet, като първа стъпка.
Интерпретируемостта на AI е особено уместна тема, като се има предвид разгорещеният дебат около безопасността на изкуствения интелект и рисковете от създаването на един изкуствен общ интелект (AGI), който да се противопостави на човечеството.
Самият Алтман наскоро разпусна целия екип, посветен на намирането на начини за "насочване и контрол на AI системи, много по-умни от нас".
Последвайте канала на
Свързани новини
Бивш служител на OpenAI разкри причината за уволнението на Сам Алтман през есента на миналата година
29 май 202414:16
Сам Алтман предупреди за "огромен проблем" вследствие на изкуствения интелект
13 май 202414:59
Сам Алтман: Ядреният синтез може да бъде решение на проблема с „апетита“ на изкуствения интелект
27 март 202417:16
Сам Алтман: Очакваният нов модел ChatGPT ще бъде по-умен
13 февруари 202412:07
Сам Алтман: Скоро очаквайте изкуствен интелект със способностите на човек
18 януари 202414:06
Изгониха Сам Алтман от OpenAI
18 ноември 202314:22
ИИ ще бъде по-интелигентен от хората „след няколко хиляди дни“, според шефа на OpenAI
24 септември 202413:52
Разследват схемата на Сам Алтман за дигитална идентификация
20 август 202410:35
Бившият шеф на "Гугъл" Ерик Шмид: Няма проблем, ако компаниите крадат данните ви за обучение на AI
16 август 202414:00
Гол в края донесе радост на Берое срещу Славия
Локомотив (София) и Хебър не успяха да се излъжат в “Надежда”
Милан с трета поредна победа след три гола за пет минути
Йосиф Панов пред Sportal.bg: С удоволствие бих подгрявал и Кубрат Пулев, и Рой в България
Георги Иванов: Ако Спартак (Вн) и Локо (Пд) се откажат по средата на сезона, това ще създаде проблеми на цялото първенство
Генчев контраатакува: Рекордьор по втори места за най-кратък срок е продължителят на Литекс и Чавдар
Коментари 1
ДобавиДобави коментар
Водещи новини
Асен Василев: Преди 3 години хората трябваше да избират между хляба и лекарствата, след 4 години - средната заплата ще е 2 000 евро
27 септември 202418:18
Боряна Димитрова: С поведението си политиците привличат наказателния вот, радикални партии могат да прескочат бариерата
27 септември 202418:11
Министър Илков: Важно е да съберем годни доказателства срещу купувачите на гласове
27 септември 202421:32
Какво си говориха гушнати Пеевски и Тошко Йорданов на трибуната в НС?
27 септември 202419:14
Водещите новини! Губим милиарди по ПВУ заради снощните батални сцени в НС. Хамас разстреля майка на две деца с 90 куршума (и още…)
27 септември 202419:00
Двама са задържани за палеж и опит за въоръжен грабеж на банка в Русенско
27 септември 202419:05
Мохамед Халаф: Кризата в исляма не е политическа, тя е културна и религиозна
27 септември 202420:56
Израел порази щабквартирата на „Хизбула“ в Бейрут
27 септември 202420:23
Зеленски е благодарен на Тръмп за много продуктивната среща
27 септември 202420:47
2024.06.06 | 05:13