Медведев за изкуствения интелект: Дали хората ще бъдат достатъчно разумни, за да поставят граници на собственото си творение, преди вече да е твърде късно?
Дмитрий Медведев публикува любопитен коментар за стремителното развитие на изкуствения интелект, в който поставя под съмнение мотивите зад все по-честите предупреждения на създателите на най-модерните AI системи.
Според него през последните години самите хора, които стоят зад технологичната революция, все по-често говорят за опасностите от собствените си разработки. Те предупреждават, че изкуственият интелект се развива прекалено бързо, че поведението му невинаги може да бъде предвидено и че човечеството може да се окаже неподготвено за последствията.
Медведев признава, че подобни опасения не трябва да бъдат отхвърляни. По думите му рисковете са реални и за тях отдавна говорят технологични предприемачи и специалисти, сред които той споменава Илон Мъск.
Но според Медведев зад драматичните предупреждения има и много по-прагматичен страх.
Той смята, че създателите на генеративен изкуствен интелект не се тревожат единствено за сценария, при който някакъв бъдещ свръхразум решава да унищожи човечеството. Подобен апокалиптичен сюжет според него е по-малко вероятен от много по-прозаични, но потенциално катастрофални аварии.
Медведев дава пример със софтуер, базиран на напреднал изкуствен интелект, който управлява огромни индустриални предприятия, транспортни системи или стратегическа инфраструктура. Една сериозна грешка там би могла да има огромни последствия.
Самолети могат да бъдат насочени към сблъсък, транспортен възел може да бъде парализиран, а неправилно решение на автоматизирана система в атомна електроцентрала би могло да доведе до бедствие.
И именно тогава, според него, започва истинският кошмар за технологичните компании.
Не роботите ще почукат на вратата им, а адвокатите.
След подобна катастрофа могат да последват съдебни искове за милиарди, политически разследвания и търсене на персонална отговорност от хората, разработили или внедрили съответните системи.
Така Медведев обръща традиционния разказ за „бунта на машините“. Според неговата теза страхът на технологичната индустрия може да бъде не само философски или морален, а съвсем материален: кой ще носи отговорност, когато алгоритъм вземе погрешно решение с човешки жертви?
Решението на пръв поглед изглежда очевидно.
Държавите биха могли да договорят общи международни принципи за регулиране на изкуствения интелект, правила за неговото използване в критична инфраструктура и механизми за контрол върху най-мощните системи.
Медведев обаче е песимистично настроен към подобен сценарий.
Според него корпоративната алчност, глобалната конкуренция и човешкото желание за технологично надмощие ще направят истинско международно споразумение изключително трудно. Никой няма да иска доброволно да забави развитието си, ако подозира, че конкурентът му ще продължи напред.
И точно тук неговият текст преминава от технологичен анализ към почти философска антиутопия.
Ако човечеството не успее да контролира собственото си творение, пише Медведев, може би един ден няма да му остане нищо друго, освен да се надява на милостта на победителя.
Този победител може да бъде създадената от самия човек свръхинтелигентна машина.
Днес изкуственият интелект няма човешки емоции в обичайния смисъл. Никой обаче не знае как ще изглеждат системите след години или десетилетия и какви свойства могат да придобият при достигането на ниво, значително надхвърлящо човешките способности.
Финалът на Медведев е едновременно ироничен и мрачен.
Човекът създава машина, която трябва да му служи, ускорява нейното развитие в безкрайна технологична надпревара, а накрая може да се окаже в положението да се моли собственото му творение да прояви великодушие.
„Нека се надяваме, че ще пощади родителите си“, е смисълът на заключението му.
И може би именно това е най-неприятният въпрос в цялата дискусия за изкуствения интелект.
Не дали машините някога ще станат достатъчно умни, за да управляват света.
А дали хората ще бъдат достатъчно разумни, за да поставят граници на собственото си творение, преди вече да е твърде късно.
Post Comment