-
17 януари 2024 15:55
- 9367
- 3
Преди около година един от най-важните специалисти по изкуствен интелект за Google напусна компанията. Причината - тревогата около безконтролното развиване на AI.
Джефри Хинтън е известен като кръстника на дълбокото машинно обучение. Той е компютърен учен и когнитивен психолог, постигнал научен пробив в тази област още в края на 80-те години на миналия век. През 2012 г. заедно с главния учен на OpenAI, Иля Суцкевер, Хинтън постига пробив и в областта на компютърното зрение. Хинтън получава наградата Тюринг за 2018 г., често наричана "Нобелова награда за компютри", но през 2023 година напуска Google.
Хинтън предупреждава, че ние стоим на ръба пред екзистенциална заплаха за цивилизацията ни, при това "без изобщо някой да действа злонамерено".
"През последните 50 години се опитвам да направя компютърни модели, които могат да научават неща малко по начина, по който мозъкът ги учи, за да разбера по-добре как мозъкът учи нещата", разказва Хинтън пред "Гардиън".
Опитвайки се да моделира как работи човешкият мозък, Хинтън се оказва един от лидерите в областта на "невронните мрежи", подход за изграждане на компютърни системи, които могат да се учат от данни и опит.
"Биологичен интелект" като нашия, казва ученият, има предимства. Той работи с ниска мощност, "само 30 вата, дори когато мислите" и освен това "всеки мозък е малко по-различен".
Цифровият интелект е много гладен за енергия, еднакъв е, но има едно предимство. Веднъж научено, знанието може да се сподели мигновено сред останалите копие. При хората това е невъзможно.
"Плащате огромна цена от гледна точка на енергия, но когато един от тях научи нещо, всички го знаят и можете лесно да правите копия. Така че добрата новина е, че открихме тайната на безсмъртието. Лошата новина е, че не е за нас", казва ученият.
"Изграждаме интелигентност с потенциал да надмине човешката. Мислех, че това ще се случи в крайна сметка, но ще имаме достатъчно време: 30 до 50 години. Вече не мисля така. И не знам примери за по-интелигентни неща, контролирани от по-малко интелигентни неща - поне не и откакто Байдън беше избран", допълва шеговито ученият.
Всъщност, в историята няма пример за по-развит субект, управляван от такъв с по-ниски възможности.
Изкуственият интелект ще е прочел всяка книга, която някога е била написана. Представете си алгоритъм, обучен в тънкостите за това как да се манипулират хората, и освен това да е запознат с практичния резултат от теорията. Това е вече постижимо.
Критичният момент в развитието на AI ще настъпи през следващите 5 до 20 години, казва той. "Но не бих изключил това да стане след година или две. И все още не бих изключил 100 години - просто моята увереност, че това не се е случвало от известно време, беше разклатена от осъзнаването, че биологичният интелект и цифровият интелект са много различни, а цифровият интелект вероятно е много по-добър".
Освен това все още има надежда, че потенциалът на AI може да се окаже надценен, казва ученият.
"В момента имам огромна несигурност. Възможно е големите езикови модели, технологията, която е в основата на системи като ChatGPT, "след като са погълнали всички документи в мрежата, да не могат да стигнат много по-далеч, освен ако не получат достъп и до всички наши лични данни. Не искам да изключвам такива неща - мисля, че хората, които са уверени в тази ситуация, са луди."
Въпреки това, казва той, правилният начин да мислим за шансовете за апокалипсис е по-сходен до обикновеното хвърляне на монета, отколкото бихме искали.
Това развитие, твърди той, е неизбежна последица от технологията при капитализма. "Не че Google е лош. Всъщност Google е лидерът в това изследване, основните технически пробиви, които стоят в основата на тази вълна, идват от Google и компанията решава да не ги оповестява директно на обществеността. Google се тревожеше за всички неща, за които ние се тревожим, има добра репутация и не иска да го обърква. И мисля, че това беше справедливо и отговорно решение. Но проблемът е, че в една капиталистическа система, ако вашият конкурент направи това, няма какво да направите, освен да направите същото."
Откакто обяви страховете си публично, Хинтън беше подложен на критики, че не последва някои от колегите си и се отказа по-рано. По думите му обаче има и надежда. За пример той дава Студената война и разпространението на ядрени оръжия. В крайна сметка обаче ядрена война няма.
Последвайте канала на
Свързани новини
AGI: Какво би било, ако мощен изкуствен интелект е живял сред нас в продължение на месец?
04 януари 202413:55
Изкуствен интелект бе обучен да разпознава ирония и сарказъм
02 януари 202414:34
Експерти очакват проблеми при развитието на технологиите с изкуствен интелект през 2024 г.
30 декември 202316:31
С помощта на изкуствен интелект: Пада тайната на трите най-големи загадки в археологията
19 декември 202311:56
„Тeлeфoн зa дyxoвe“: Опитът на Toмac Eдиcoн е възкресен от изкуствен интелект
13 декември 202319:39
Изкуствен интелект за четене на мисли може да преведе мозъчни вълни в писмен текст
13 декември 202314:21
Набелязаният от ЦСКА - София африканец не иска в България
Официално: Ман Сити обяви новия договор на Гуардиола
ЦСКА - София се раздели със защитник
България в група с 4 отбора по пътя към Мондиал 2026, задачата пред "лъвовете" става още по-трудна
Партизан се съживи точно срещу Звезда, Милър-Макинтайър с 9 асистенции
Един от най-тежките моменти на Цунами бил при Мъри Стоилов, капитанът на Левски каза как “сините” ще излязат от кризата
Коментари 3
Добави2024.01.17 | 19:18
2024.01.17 | 18:05
Добави коментар
Водещи новини
Божидар Божанов: ГЕРБ не иска да сформира правителство и се крие
21 ноември 202420:42
Боряна Димитрова: Наблюдаваме политически блокаж с три оси - „Възраждане“, Делян Пеевски и връщане към старата конституционна уредба
21 ноември 202418:39
Костадин Костадинов: ГЕРБ е в изолация и наблюдаваме подозрително мълчание
21 ноември 202420:56
Скандалът с бившата фирма на Асен Василев: Съдът излезе с решение
21 ноември 202420:03
Водещите новини! Ученикът Даниел, който усмърти с ритници жена в Перник, се разрева в съда. МНС издаде заповед за арест на Нетаняху (и още…)
21 ноември 202419:28
Путин потвърди, че Украйна е атакувана с балистична ракета
21 ноември 202419:47
САЩ признаха, че са били наясно, че Русия изстрелва балистична ракета със среден обсег
21 ноември 202422:35
Володимир Зеленски определи руския ракетен удар с ново оръжие като видима ескалация на войната
21 ноември 202422:57
САЩ наложиха санкции на "Газпромбанк"
21 ноември 202419:05
2024.01.19 | 12:57