За пробив в изкуствения интелект, "потенциално застрашаващ човечеството", са алармирали служители на OpenAI

Преди уволнението на Сам Олтман от поста на главен изпълнителен директор на OpenAI, продължило едва четири дни, няколко души от изследователския екип на компанията са написали писмо до борда на директорите, в което са предупредили за значително откритие, свързано с изкуствения интелект, което според тях може да застраши човечеството. Това съобщи Ройтерс, позовавайки се на два свои източника, запознати с въпроса, предаде БТА.

Писмото, за което по-рано нямаше информация, и разработването на алгоритъма за изкуствен интелект са били ключови моменти преди отстраняването от борда на Олтман, са посочили източниците. Преди триумфалното му завръщане като ръководител на OpenAI вчера, повече от 700 служители на софтуерния разработчик бяха заплашили с напускане, в знак на солидарност с уволнения лидер.

Писмото е представлявало само една от многото причини за уволнението на Олтман, според източниците, които са изтъкнали още опасения относно комерсиализиране на разработките, преди да се разберат произтичащите от тях последствия.

Ройтерс не е успяла да получи достъп до писмото, а служителите, които са го написали, не са отговорили на исканията за коментар на агенцията.

OpenAI е признала в съобщение до служителите си за проект, наречен Q* , както и за писмо, изпратено до борда преди събитията, свързани с уволнението на Олтман, е казал един от източниците. Говорител на компанията заяви, че съобщението, изпратено от дългогодишния изпълнителен директор Мира Мурати, алармира персонала за определени медийни публикации, без да коментира тяхната точност.

Някои от служителите на компанията смятат, че Q* (произнася се "Кю-стар") може да бъде пробив в търсенето на така наречения общ изкуствен интелект (AGI), според един от източниците. OpenAI определя общия изкуствен интелект като автономни системи, които превъзхождат хората в повечето важни икономически дейности.

Като се имат предвид огромните изчислителни възможности, новият модел успя да реши определени математически проблеми, е посочил служител на компанията. Въпреки че решава математически задачи едва на ниво начален етап на образование, разрешаването им обнадеждава разработчиците за бъдещия успех на Q*, е казал източникът.

Ройтерс не е успяла да провери възможностите на Q*, описани от източниците.

Изследователите смятат математиката за граница на генеративното развитие на изкуствения интелект. Понастоящем генеративният изкуствен интелект успява да извършва езиков превод чрез статистически прогнози на следващата дума и отговорите на един и същи въпрос могат да варират значително. Развитието на възможността да се решават математически задачи, в които има само един правилен отговор, предполага, че изкуствения интелект ще има по-големи способности за разсъждение, наподобяващи човешкия интелект. Това може да се приложи например към нови научни изследвания, смятат изследователите в сферата.