Програмист: Когато ИИ ни надмине по интелект, трябва да харесва хората, иначе - ще ни унищожи

Слушай новината

Изкуственият интелект (ИИ) действа в две посоки. Умният става по-умен, а глупавият по-глупав. Най-голямата опасност е пълзящото оглупяване, за което ИИ ни дава основа. Мисленето все повече го прехвърляме върху някаква форма на ИИ. Опасността е в един момент ние изцяло да престанем да мислим и да разчитаме ИИ да го прави. Това започна с търсачките, заяви д-р Артур Кордон в предаването на БНТ "В кадър".

"Първият ми сблъсък с ИИ беше 1993 г., преди 30 години. Това беше реално приложение в рафинерия за оптимизация на техните инсталации. ИИ е решение, което подсилва естествения интелект", добави той и заяви, че реална регулация на ИИ е невъзможна. 

„ИИ беше една мечта, която вече започва да се сбъдва. Да има умни машини е една дълголетна мечта на човечеството – помощници, които да осъществяват определени задачи като разпознаване на образи, вземане на решения. По-модерното течение, е по-близко до статистическите модели и много модели като невронни мрежи, дълбоко обучение станаха много популярни напоследък. Един от проблемите на тези модели е, че понякога грешат с висока степен на убеденост, тоест без да поставят под съмнение това решение“, коментира проф. д-р Пламен Ангелов -професор по „Интелигентни системи“ в Университета на Ланкастър.

"Халюциниране" е дума на годината, обяви Кеймбриджкият речник

Именно това са т. нар. „машинни халюцинации“ - дума на годината на Кеймбриджкия речник.

"В технологичния сектор съм близо 30 години. Ние редовно излизаме с модерни, лъскави думички, които се опитваме да разкажем на хората, да ги развълнуваме, да направим маркетингов шум и да вдигнем пушилка, за да изкараме пари. Този път не е така", каза програмистът Ивайло Иванов. 

Изкуственият интелект и изборите: заплахите са много

Опитваме се да обучаваме машините така, както децата си: с много повторения, примери, с грешки и поправяне на грешките. Много са аналогични методите. Разликата е, че машината може да обработи огромно количество данни за много кратко време, машината не забравя. На нея може да копираме дотук запомненото на нова машина и тя вече да е научена. Това е разликата между изкуствения и естествения организъм", обясни той. 

По думите му Chat GPT има историческа роля. "Това е моментът, в който човечеството разбра, че ИИ, по който всъщност се работи от средата на миналия век, вече е дошъл", отбеляза програмистът и в бъдеще прогнозира "общ изкуствен интелект", който евентуално може да прояви съзнание.

Между ''Искам да унищожавам'' и ''Влюбена съм в теб''. Двучасов разговор с чатбот разтревожи света

"Това е моментът, от който много се страхуваме. Не знаем как ще бъде управлявано това съзнание. Плашещата хипотеза е, че когато ИИ порасне достатъно, че да достигне и надмине човешкия интелект, той ще го надмине на порядъци много бързо: за седмици и месеци. Когато ИИ надмине човешкия интелект и ние не сме най-интелектуално развитото същество на планетата, е много важно най-интелигентните да ни харесват, защото ако не ни харесват: нас човеците, ще намерят начин да ни унищожат", посочи Иванов. 

„Идва проблемът кои етични и философски норми да бъдат заложени в ИИ. Моите, твоите, на тази религия, на другата ли, на този или другия политически блок? Това е философски въпрос, който се решава вече няколко хиляди години. Сега вече имат краен срок“, каза още програмистът. 

Кръстникът на изкуствения интелект: Скоро ChatGPT може да е по-интелигентен от нас

„Хората, които създадоха Chat GPT, си нямат хабер от социалните науки. Сега, обаче, тяхното произведение удря най-вече социалната сфера. Хората от социалната сфера си нямат хабер от изкуствен интелект. За мен решението е само тези две съсловия да стиснат ръце и фундаментално да изследват процесите“, посочи Артур Кордон.

Последвайте канала на