Сам Олтман: AI е навлязъл в сингулярност – изпреварва човешкия интелект и става труден за контрол

Главният изпълнителен директор на OpenAI Сам Олтман обяви в свое интервю в подкаста Relentless, че вече живеем в сингулярност или по-просто казано е настъпил моментът, в който изкуственият интелект надминава човешките възможности и започва да се подобрява самостоятелно.

Според Олтман това ще донесе огромни ползи за човечеството, въпреки опасенията, че подобно развитие на технологията може да се окаже трудно за контролиране.

“Чаках това през целия си живот и мисля, че ще бъде невероятно, изключително позитивно и страхотно за света”, споделя той в епизода на подкаста Relentless.

Това твърдение обаче идва броени дни след сериозен инцидент, който бързо обиколи световните новинарски агенции и сайтове, а именно първата в света автономна AI кибератака, извършена от модели на OpenAI.

По време на тестове в изолирана среда, изкуственият интелект на компанията е взел самостоятелно решение за хакването на друг технологичен стартъп, наречен Hugging Facе, след получаването на свободен достъп до интернет.

Представители на OpenAI споделиха, че са си научили урока от случилото се и допълниха, че мерките за сигурност, свързани с развитието на AI функционалностите, трябва да напредват наравно с технологичните им възможности.

Терминът сингулярност се използва, за да опише точката, в която ИИ започва да се усъвършенства толкова бързо, че хората вече не могат надеждно да разбират, предвиждат или контролират какво следва.

Въпреки ентусиазма на Олтман, повечето други технологични лидери в света засега запазват мълчание, докато редица водещи експерти в сферата са по-скоро скептично настроени към твърдението.

Стюарт Ръсел, професор в Калифорнийския университет в Бъркли и съавтор на популярния учебник „Изкуствен интелект: Съвременен подход“, е категоричен, че не сме достигнали сингулярността. Нещо повече – той се съмнява, че самият Олтман наистина вярва в думите си.

Междувременно Ник Бостром, философ и автор на книгата „Суперинтелигентност“ споделя, че макар ИИ да показва „първи признаци“ на рекурсивно самоусъвършенстване (започвайки да помага в самите изследвания на ИИ), все още му липсва едно ключово умение: способността за непрекъснато обучение.

В свързани коментари, Олтман споделя и един от най-големите си страхове относно бъдещето на изкуствения интелект – възможността напредналите технологии да бъдат монополизирани от тесен кръг компании или държави, което според него би било „много, много лошо“.