Зарежда се...

Член на борда на OpenAI: До година хората може да са мъртви или поробени от AI

Член на борда на OpenAI: До година хората може да са мъртви или поробени от AI

Не бъди безразличен, сподели статията с твоите приятели:

Един от членовете на борда на OpenAI Foundation отправи тревожно предупреждение за развитието на изкуствения интелект. Пол Кристиано смята, че в рамките на следващата година има около 20% вероятност проблеми с контрола върху AI системите да доведат до ситуация, в която хората няма да могат да водят нормален живот. В най-лошия сценарий те може да загинат или да бъдат поробени от изкуствен интелект.

Кристиано направи изказването си по време на Hinton Lectures 2026 – конференция за етиката на изкуствения интелект, организирана от носителя на Нобелова награда и компютърен учен Джефри Хинтън.

„За повечето хора в тази зала най-вероятната причина за смъртта им ще бъде инцидент с изкуствен интелект„, заяви Кристиано.

Той предупреди, че ако разработването на AI продължи по възможно най-бързия и лесен начин, вероятността от сценарий, при който системите поемат контрол над човешкото общество, ще бъде приблизително 50%.

„Като цяло смятам, че има съвсем реална вероятност – може би 20% – в рамките на една година проблемите с несъответствието на целите на изкуствения интелект да ви попречат да живеете нормално. Това може да се случи, защото сте мъртви или поробени, или заради съпътстващите щети от всичко това„, допълни той.

Според Кристиано рискът остава изключително висок дори ако правителствата предприемат реалистични мерки за регулиране на технологията. Кристиано не представи конкретен сценарий за това как подобна катастрофа би могла да се случи. Основното му притеснение е свързано с т.нар. AI misalignment – проблем, при който целите и поведението на една AI система се разминават с човешките намерения. При достатъчно напреднали системи това може да доведе до действия, които хората не могат да предвидят или контролират.

Изказването му предизвика и въпроси за собствената му роля в развитието на технологията. Кристиано е част от ръководния орган на OpenAI Foundation, организацията, свързана с контрола върху OpenAI. Това поставя в центъра на вниманието противоречието между предупрежденията му за потенциална катастрофа и участието му в управлението на една от водещите компании в сектора.

Изданието Futurism отбелязва именно това противоречие. Според публикацията, ако изследователи като Кристиано действително смятат, че продуктите на собствената им индустрия могат да доведат до изчезването на човечеството, би трябвало да предприемат много по-активни действия за спиране на опасното развитие.

Пол Кристиано не е единственият кадър или акционер на OpenAI, който прави AI-апокалиптични прогнози, докато държи дял от компанията за изкуствен интелект.

Важно е да се отбележи, че посочените от Кристиано 20% са негова лична оценка на риска, а не официална прогноза на OpenAI. Същото важи и за оценката му за 50% вероятност от превземане на контрола от AI при неконтролирано ускоряване на разработките.

]]>

Последвайте нашият Telegram канал! Натиснете тук


Коментари

коментари

Post Comment

You May Have Missed

www.faktibg.com