-
17 януари 2024 15:55
- 9361
- 3
Преди около година един от най-важните специалисти по изкуствен интелект за Google напусна компанията. Причината - тревогата около безконтролното развиване на AI.
Джефри Хинтън е известен като кръстника на дълбокото машинно обучение. Той е компютърен учен и когнитивен психолог, постигнал научен пробив в тази област още в края на 80-те години на миналия век. През 2012 г. заедно с главния учен на OpenAI, Иля Суцкевер, Хинтън постига пробив и в областта на компютърното зрение. Хинтън получава наградата Тюринг за 2018 г., често наричана "Нобелова награда за компютри", но през 2023 година напуска Google.
Хинтън предупреждава, че ние стоим на ръба пред екзистенциална заплаха за цивилизацията ни, при това "без изобщо някой да действа злонамерено".
"През последните 50 години се опитвам да направя компютърни модели, които могат да научават неща малко по начина, по който мозъкът ги учи, за да разбера по-добре как мозъкът учи нещата", разказва Хинтън пред "Гардиън".
Опитвайки се да моделира как работи човешкият мозък, Хинтън се оказва един от лидерите в областта на "невронните мрежи", подход за изграждане на компютърни системи, които могат да се учат от данни и опит.
"Биологичен интелект" като нашия, казва ученият, има предимства. Той работи с ниска мощност, "само 30 вата, дори когато мислите" и освен това "всеки мозък е малко по-различен".
Цифровият интелект е много гладен за енергия, еднакъв е, но има едно предимство. Веднъж научено, знанието може да се сподели мигновено сред останалите копие. При хората това е невъзможно.
"Плащате огромна цена от гледна точка на енергия, но когато един от тях научи нещо, всички го знаят и можете лесно да правите копия. Така че добрата новина е, че открихме тайната на безсмъртието. Лошата новина е, че не е за нас", казва ученият.
"Изграждаме интелигентност с потенциал да надмине човешката. Мислех, че това ще се случи в крайна сметка, но ще имаме достатъчно време: 30 до 50 години. Вече не мисля така. И не знам примери за по-интелигентни неща, контролирани от по-малко интелигентни неща - поне не и откакто Байдън беше избран", допълва шеговито ученият.
Всъщност, в историята няма пример за по-развит субект, управляван от такъв с по-ниски възможности.
Изкуственият интелект ще е прочел всяка книга, която някога е била написана. Представете си алгоритъм, обучен в тънкостите за това как да се манипулират хората, и освен това да е запознат с практичния резултат от теорията. Това е вече постижимо.
Критичният момент в развитието на AI ще настъпи през следващите 5 до 20 години, казва той. "Но не бих изключил това да стане след година или две. И все още не бих изключил 100 години - просто моята увереност, че това не се е случвало от известно време, беше разклатена от осъзнаването, че биологичният интелект и цифровият интелект са много различни, а цифровият интелект вероятно е много по-добър".
Освен това все още има надежда, че потенциалът на AI може да се окаже надценен, казва ученият.
"В момента имам огромна несигурност. Възможно е големите езикови модели, технологията, която е в основата на системи като ChatGPT, "след като са погълнали всички документи в мрежата, да не могат да стигнат много по-далеч, освен ако не получат достъп и до всички наши лични данни. Не искам да изключвам такива неща - мисля, че хората, които са уверени в тази ситуация, са луди."
Въпреки това, казва той, правилният начин да мислим за шансовете за апокалипсис е по-сходен до обикновеното хвърляне на монета, отколкото бихме искали.
Това развитие, твърди той, е неизбежна последица от технологията при капитализма. "Не че Google е лош. Всъщност Google е лидерът в това изследване, основните технически пробиви, които стоят в основата на тази вълна, идват от Google и компанията решава да не ги оповестява директно на обществеността. Google се тревожеше за всички неща, за които ние се тревожим, има добра репутация и не иска да го обърква. И мисля, че това беше справедливо и отговорно решение. Но проблемът е, че в една капиталистическа система, ако вашият конкурент направи това, няма какво да направите, освен да направите същото."
Откакто обяви страховете си публично, Хинтън беше подложен на критики, че не последва някои от колегите си и се отказа по-рано. По думите му обаче има и надежда. За пример той дава Студената война и разпространението на ядрени оръжия. В крайна сметка обаче ядрена война няма.
Последвайте канала на
Свързани новини
AGI: Какво би било, ако мощен изкуствен интелект е живял сред нас в продължение на месец?
04 януари 202413:55
Изкуствен интелект бе обучен да разпознава ирония и сарказъм
02 януари 202414:34
Експерти очакват проблеми при развитието на технологиите с изкуствен интелект през 2024 г.
30 декември 202316:31
С помощта на изкуствен интелект: Пада тайната на трите най-големи загадки в археологията
19 декември 202311:56
„Тeлeфoн зa дyxoвe“: Опитът на Toмac Eдиcoн е възкресен от изкуствен интелект
13 декември 202319:39
Изкуствен интелект за четене на мисли може да преведе мозъчни вълни в писмен текст
13 декември 202314:21
Лудогорец ухапа мощните баски, но обрат за 60 секунди го попари
Ботев (Пловдив) няма право на грешка срещу Локомотив (София)
Ще продължи ли победната серия на Арда и срещу Ботев (Враца)?
Жесток удар по Ботев (Пловдив), изгониха собственика на "канарчетата" от България за 10 години
Вълнуваща вечер в Лига Европа
Ман Юнайтед взе първата си победа в ЛЕ срещу ПАОК, Десподов с петнайсет минути на "Олд Трафорд"
Коментари 3
Добави2024.01.17 | 19:18
2024.01.17 | 18:05
Добави коментар
Водещи новини
Атанас Илков: Неуместно бе директорът на Народния театър да излиза пред протестиращите
08 ноември 202408:39
Директорът на Народния театър: Можем да съдим за провокация в спектакъла, когато сме го гледали
08 ноември 202408:10
Джон Малкович: Аз нямам право да цензурирам, дори протестиращите, моята работа е да режисирам
08 ноември 202408:46
Нападан и обиждан от протестиращи: Тео Ушев настоя вътрешният министър веднага да подаде оставка
08 ноември 202408:07
Балабанов: Не мога да гледам Народния театър по този начин. Имам много въпроси и към вътрешния министър
08 ноември 202408:19
"Сиела Норма": БНБ не произвежда, а доставя хартията, която разваля машините
08 ноември 202407:54
Жените в София треперят от бруталния изнасилвач, настояват за засилено полицейско присъствие
08 ноември 202407:41
Гражданки от "Слатина": Ако от полицията не се задействат, ще организираме хайки
08 ноември 202408:05
Шофьор катастрофира в стълб, издигнат насред кръстовище
08 ноември 202407:43
2024.01.19 | 12:57