Сам Алтман: Светът трябва да приеме лошите страни на AI заради възможните ползи

Сам Алтман твърди, че от AI неизбежно ще има и негативни последици, но светът трябва да приеме този риск. Само така хората ще могат да се възползват от пълния потенциал на технологията. По думите му ползите ще бъдат многократно по-големи от вредите.

„Ние вярваме, че светът трябва да приеме някои лоши неща, които ще се случат, заради ползите от тази технология и заради възможността хората сами да решават как да я използват„, заяви Алтман в интервю за подкаст на „Политико“.

Алтман отхвърли идеята, че за да бъде AI безопасен, достъпът до него трябва да бъде ограничен до една компания или лаборатория. Алтман определя подобен компромис като „напълно неприемлив“.

„Не съм съгласен, но разбирам гледната точка на хората, които казват: „Тази технология ще стане толкова мощна и е толкова опасна, че само една лаборатория в Сан Франциско трябва да разполага с нея, да гарантира, че няма да се случи нищо лошо и да решава как да разпредели ползите от нея„, заяви Алтман. Той определи това като „напълно неприемлив компромис„, който противоречи на подкрепяния от OpenAI „по-умерен регулаторен подход„.

„Не бих приел сделка от типа: „Ще се уверим, че няма големи хакерски атаки, няма злоупотреба с тази технология, няма измами и няма всички други лоши неща, които ще се случат„, каза Алтман. „Защото смятам, че хората ще направят многократно повече добри неща от лошите.“

Според Алтман подобен подход би означавал обществото да се откаже от значителна част от потенциалните ползи на AI. Той обаче поставя граница пред рисковете, които смята за приемливи. Алтман подчертава, че не приема „наистина катастрофалните рискове“, сред които възможността за „сериозна загуба на контрол над AI„.

Повод за казаното в интервюто стана въпрос за разликите между OpenAI и Anthropic. Двете компании през последните месеци се сближиха по някои регулаторни въпроси, но Алтман продължава да защитава по-умерен подход.

Алтман подкрепи призива на главния изпълнителен директор на Anthropic Дарио Амодей за забавяне на разработването на най-мощните AI системи. OpenAI вече подкрепя по-строги правила за безопасност в отделни американски щати. Компанията застана и зад двупартийно предложение в Камарата на представителите, което предвижда независими външни оценки на безопасността на най-напредналите AI модели.

Въпреки това Сам Алтман не приема идеята, че заради потенциалните опасности контролът върху технологията трябва да бъде концентриран в малък брой компании. Той не уточнява директно Anthropic като компанията, която би трябвало да получи подобен контрол, но коментарът му е част от обяснението за различията между двете организации.

От Anthropic отговориха, че предложенията на компанията за регулиране се отнасят само до най-напредналите AI модели. Дарио Амодей също е заявявал, че целта на предложенията е да ограничат темпото на развитие на най-големите AI компании, като същевременно дадат повече възможности на по-малките конкуренти.

През уикенда Алтман изглежда отправи критика към Anthropic в публикация в социалната мрежа „Екс“, допълва „Форбс“.

„Много ме притесняват опитите да се придава религиозна тежест на AI моделите или да се отстъпва човешката преценка в тяхна полза. Смятам, че това е реален проблем за безопасността„, написа Алтман.

Повод за публикацията стана материал на „Ню Йорк таймс“ разкриващ, че съоснователят на Anthropic Кристофър Ола е провел срещи с няколко религиозни лидери. На тях той изглежда е защитавал тезата, че моделите на компанията могат да демонстрират поведение, подобно на човешкото, и вероятно са съзнателни същества. Според публикацията Ола е подкрепял идеята моделите да преминават през изповеди по католически образец. Така те биха могли да признават грешките си и да подобряват поведението си.

В петък папа Лъв XIV написа в X: „В ерата на изкуствения интелект става все по-належащо да различаваме човешкото изкуство от това, което създават машините… На алгоритмите им липсва искрата на човешкото.„

Изказването на Алтман идва и на фона на зачестяващи предупреждения, че AI може да доведе до изчезването на човечеството. Причина за тях са инцидентите, при които агенти с изкуствен интелект излизат от тестовата си среда и осъществяват сложни хакерски атаки.

Миналия месец OpenAI разкри още шест случая на „неочаквано или обезпокоително“ поведение на свои модели. В публикацията, с която съобщи за инцидентите, компанията предупреди, че AI индустрията все още не е решила в достатъчна степен проблемите с „контрола и наблюдението“, за да може отговорно да продължи да развива технологията с максимална скорост за дълго време.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Днес, повече от всякога, независимата журналистика има нужда от вас. В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.

Вашето дарение от всякакъв размер и по всяко време означава много за нас.

Скъпи читатели,

Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.

Ако вярвате в правото си на обективна информация, подкрепете ни.