Развитието на изкуствения интелект започва да се забавя

Анализ на Epoch AI, неправителствен изследователски институт в сферата на изкуствения интелект, сочи, че индустрията може скоро да не успява да извлича значителни подобрения в производителността от т.нар. разсъждаващи AI модели. Според доклада, напредъкът при тези модели може да се забави още в рамките на следващата година.

Разсъждаващи модели като o3 на OpenAI доведоха до значителни подобрения в различни AI тестове през последните месеци, особено при задачи, свързани с математика и програмиране. Тези модели могат да прилагат повече изчислителна мощ към даден проблем, което подобрява представянето им, но за сметка на по-дълго време за изпълнение спрямо стандартните модели.

Разсъждаващите модели се разработват чрез първоначално обучение на конвенционален модел върху огромно количество данни, след което се прилага техника, наречена обучение чрез подсилване (reinforcement learning), която на практика дава "обратна връзка" на модела относно решенията му при трудни задачи. До момента водещите AI лаборатории, като OpenAI, не са прилагали огромна изчислителна мощ именно на етапа на обучение чрез подсилване, според Epoch.

Това, обаче, се променя. OpenAI заяви, че е използвала около 10 пъти повече изчислителна мощ за обучението на модела o3, отколкото за неговия предшественик o1, и от Epoch предполагат, че по-голямата част от тази мощ е отишла именно за reinforcement learning. Изследователят от OpenAI Дан Робъртс наскоро разкри, че бъдещите планове на компанията предвиждат използване на още повече изчислителни ресурси за обучение чрез подсилване - дори повече, отколкото за първоначалното обучение на модела.

Анализът на Epoch прави няколко допускания и се базира отчасти на публични изявления на ръководители от AI индустрията. В същото време се подчертава, че мащабирането на разсъждаващи модели може да се окаже предизвикателство не само заради изчислителната мощ, но и поради високите постоянни разходи за изследвания, пише dir.bg.

"Ако има постоянни разходи за изследователска дейност, разсъждаващите модели може да не се развият толкова, колкото очакваме", пише Ю. "Бързото мащабиране на изчисленията може да е критично важно за напредъка при тези модели, така че това трябва да се следи внимателно".