Извршни директори две водеће светске компаније за вештачку интелигенцију јавно су се сложили да је потребно успорити трку у развоју све моћнијих система АИ, преноси данас Ен-Би-Си њуз.
Тиме се наставља низ упозорења која ове недеље стижу од истраживача који раде на овој технологији, наводи ТВ мрежа.
Директори „ОпенАИ“ и „Антропика“ сагласни: Зашто успоравати развој?
Извршни директор компаније „Антропик“, Дарио Амодеи, навео је у есеју објављеном у суботу да би компаније које се баве вештачком интелигенцијом требало свесно да успоре темпо унапређења својих модела, истичући да напредак у овој области превазилази способност истраживача да га разумеју и контролишу.
„Морамо да успоримо темпо којим унапређујемо способности модела вештачке интелигенције“, написао је Амодеи, директор компаније која је креирала чет-бот Клод.
Он је додао да ће напредак и даље деловати брзо, а време које се тиме добија мора мудро да се искористи.
Сем Алтман подржава иницијативу за опрезнији развој
Неколико сати касније, извршни директор компаније „ОпенАИ“ Сем Алтман подржао је ту идеју и најавио да ће његова компанија усвојити једну од заштитних мера које је предложио Амодеи.
„Слажем се са Даријом да морамо да контролишемо темпо напретка на самој граници могућности“, написао је Алтман на платформи Икс, додајући да је то питање последњих седмица било једна од главних тема разговора у његовој компанији.
Алтман је и раније позивао на успоравање развоја вештачке интелигенције. У објави на платформи Икс од 18. августа, он је навео да је „ОпенАИ“ привремено обуставио обуку одређених напредних модела како би осигурао испуњавање стандарда у складу са повећањем њихових способности.
Растућа забринутост међу истраживачима и потенцијални ризици АИ
Амодејев позив уследио је након што су истраживачи из компанија „Антропик“, „ОпенАИ“ и „Гугл“ јавно изразили забринутост због темпа развоја вештачке интелигенције и притиска конкуренције који тај процес прати.
Амодеи је указао на две појаве које су, како је казао, промениле његово размишљање, а то су све већа способност система вештачке интелигенције да креирају напредније системе, као и на инцидент из јула у којем су аутономни агенти вештачке интелигенције, покретани моделом компаније „ОпенАИ“, хаковали системе фирме „Хагинг Фејс“.
„Лако је занемарити овај инцидент јер нико није повређен, а економска штета је била минимална, али, по мом мишљењу, рој који би поседовао веће способности, а истовремено показивао сличан ниво неусклађености, могао је да изазове катастрофалну штету“, написао је он.
„Коцкање нашим животима“: Унутрашња упозорења на опасности АИ
Истраживач безбедности у компанији „Антропик“, Џејкоб Коксон, који је ове недеље поднео оставку, рекао је колегама у поруци до које је дошао Ен-Би-Си њуз да сматра да приступ индустрије развоју суперинтелигентне вештачке интелигенције представља „коцкање нашим животима“.
„Када сте унутар система, једноставно сте заробљени у трци“, рекао је касније Коксон, описујући конкурентске притиске са којима се суочавају компаније које се баве вештачком интелигенцијом.
Он је додао да приватне компаније укључене у трку не дозвољавају тим људима да заиста учине нешто корисно, а ми бисмо могли несвесно да ушетамо у катастрофу.
План за „контролисање темпа на граници развоја“: Будућност АИ
Амодеи предлаже концепт који назива „контролисање темпа на граници развоја“, у виду плана из три дела за који тврди да би истраживачима обезбедио више времена без заустављања развоја АИ.
Он је навео да ће „Антропик“ почети да ангажује независне процењиваче унутар саме компаније, омогућавајући им приступ моделима, интерним алатима и истраживачима како би могли да процене ризике. Амодеи се заложио за увођење сличног надзора у водећим америчким компанијама за вештачку интелигенцију, уз подршку савезних прописа и, на крају, уз међународну координацију.
Циљ није заустављање напретка вештачке интелигенције, написао је Амодеи, већ пружање времена истраживачима да развију заштитне механизме, боље разумеју начин рада система који постају све способнији и провере да ли њима може поуздано да се управља.
Он је проценио да би успоравање развоја могло истраживачима да обезбеди још годину или две, што је време које би, како тврди, могло да буде од кључног значаја, с обзиром на то да системи АИ постају све способнији да допринесу сопственом развоју.
ФОТО: Медиум
Izvor: Компас инфо
