Сложността на изкуствения интелект не трябва да е пречка за регулирането му

Как технологичният сектор се измъква по линията на това, че е изключителен, толкова дълго, се пита на страниците на Financial Times Маргарет Хефърнън, автор на „В непознати води: как да навигираме в бъдещето“.

Всеки път, когато се появят вредните ефекти от нова технология, се говори много срещу регулирането ѝ с аргумента, че това ще задуши иновациите и че инженерството е твърде сложно за законодателството.

Цената може наистина да е висока – загуба на доверие, деградация на демокрацията, нарастващ брой на смъртните случаи сред младежите – но регулирането би било светотатство срещу кръстоносния поход в търсене на знание и икономически растеж. Или поне така гласи аргументът.

Дори когато пионери ренегати в областта на изкуствения интелект шумно предупреждават за неговите опасности, също толкова голяма противоположна група (понякога дори включваща едни и същи гласове) твърди, че технологията е твърде млада, за да бъде ограничавана, че все още няма достатъчно доказателства за вреда и че на бизнеса може да се има доверие, че ще направи правилното нещо.

Но никоя друга индустрия не получава такъв „безплатен пропуск“. Електрическите уреди се тествани, за да се гарантира, че няма да експлодират или да се запалят. Колите не се допускат на пътя, ако не отговарят на стандартите за безопасност. Фармацевтичните предприятия трябва да докажат, че техните продукти са безопасни, преди да бъдат пуснати в продажба. Ако се появят вреди в някое от горните, се задействат нови слоеве регулация. Разработването и налагането на стандарти е крайъгълен камък на социалния договор: гражданите очакват техните правителства да осигуряват безопасността им.

Така че защо технологиите са изключение? Когато бе установено, че Facebook е експериментирала с потребители без тяхното съгласие, когато социалните мрежи доказано вредят на млади и уязвими потребители, призивите за регулиране отекват и след това замлъкват. В аргумента, че новите технологии са твърде ценна икономическа възможност, изкуственият интелект (AI) е просто поредната цел. Защитниците му твърдят, че досега не е показал никакви признаци на вреда и че инженерството е твърде неясно, за да го разберат законодателите. Първото разсъждение е спорно, второто често е вярно. Имала съм, пише авторката, много разговори с членове на парламента и главни изпълнителни директори, които насаме признават, че не се чувстват компетентни, когато става дума за технологии. По-малко неудобно е да се избегнат сложните проблеми, което означава, че те намират обща кауза с компаниите, които също печелят от игнорирането им.

Такава умишлена слепота не е единствената опция. През 1982 г. в Обединеното кралство бе създадена Комисията „Уорнък“, „за да разгледа последните и потенциалните разработки в медицината и науката, свързани с човешкото оплождане и ембриологията“. Стремейки се да запази водещата си позиция в тази област, британското правителство осъзна, че науката също така поставя дълбоки етични и социални въпроси, на които трябваше да се отговори, за да бъде новата технология приемлива.

Правителството назначи за ръководител на комисията Мери Уорнък, морален философ, който нямаше опит в тази област. Веднъж тя ми каза, споделя Хефърнън, че липсата на тесен предмет у философите е дар. Това означаваше, че хората ѝ вярват и че тя нямаше власт или перспектива, които да защитава. Нейното умение се състоеше в обмислянето на трудни проблеми.

За да направим това, трябваше да съберем учени, адвокати, общопрактикуващи лекари и теолози, „за да проведем разговора, който не водехме“, каза ми Уорнък. Учените не бяха етици, етиците не бяха научни експерти. Разбирането на болезненото преживяване от безплодието от първа ръка беше от решаващо значение. Всеки трябваше да научи много.

Разделенията бяха дълбоки. В един момент Уорнък научила, че съпругата на тогавашния епископ на Ели е провела тайни срещи, за да възпрепятства комисията. Но тя проявила упорство, с голяма помощ от учения Ан Макларън, на която се приписваше дарбата да изяснява сложността, без да я опростява.

Препоръките, публикувани през 1984 г., отговаряха на златния стандарт в регулирането: дори хората, които не ги харесват, да могат да ги разберат и приемат. Въпреки че много епископи в Камарата на лордовете в британския парламент се противопоставиха на законопроекта, той се превърна в закон. Иновациите не бяха задушени, Великобритания запази водещата си позиция и технологията облагодетелства стотици хиляди, които бяха преживели агонията на безплодието.

Това, че AI също е сложен, не е причина да избягваме предизвикателството да го ограничим. AI системите оптимизират за конкретни резултати, но рискуват да генерират решения, които са по-лоши от проблемите, които са предназначени да решат. (Справянето с климатичните промени чрез предотвратяване на размножаването е мой любим пример, пише авторката.)

Формулирането на стандарти около технологиите не е невъзможно; то просто ще изисква съгласуване на принципи и ограничения от вида, с който всички други индустрии трябва да се съобразяват и да работят. Това изисква хора от различни дисциплини да слушат, учат и водят информирани, задълбочени и неполяризирани разговори, които в момента липсват. Това, че AI е толкова мощен, означава, че нямаме друг избор, освен да опитаме.