Визиите на технологичните светила трябва да бъдат оценявани скептично

Хората, които са много богати или много умни, или и двете, понякога вярват в странни неща. Някои от тези вярвания са обхванати в акронима Tescreal. Буквите представляват припокриващи се футуристични философии – свързани с трансхуманизма и дългосрочността – предпочитани от много от най-богатите и видни поддръжници на изкуствения интелект (AI), пише научната коментаторка на Financial Times Анджана Ахуджа.

Етикетът, измислен от бивш етик и философ на Google, започва да циркулира онлайн и полезно обяснява защо някои технологични фигури биха искали да видят обществения поглед насочен към размити бъдещи проблеми като екзистенциален риск, а не към текущи като алгоритмичните пристрастия. Братство, което в крайна сметка се е ангажирало да подхранва AI за едно постчовешко бъдеще, може малко да се интересува от социалните несправедливости, извършени от тяхното блудно отроче днес.

Освен трансхуманизма, който се застъпва за технологично и биологично подобряване на хората, Tescreal обхваща екстропианизъм - вяра, че науката и технологиите ще доведат до неограничен живот; сингуляризъм - идеята, че един изкуствен суперинтелект в крайна сметка ще надмине човешкия; космизъм - манифест за предотвратяване на смъртта и разпространение навън в космоса; рационализъм - убеждението, че разумът трябва да бъде върховният ръководен принцип за човечеството; ефективен алтруизъм - социално движение, което изчислява как да извлече максимална полза за другите; и дългосрочност - радикална форма на утилитаризъм (доктрина, според която правилни са действията, ползващи мнозинството – бел. прев.), която твърди, че имаме морални отговорности към идните поколения, дори за сметка на сегашните.

Акронимът може да бъде проследен назад до непубликувана статия от Тимнит Гебру, бивша съръководителка по AI етиката в Google, и Емил Торес, докторант по философия в университета Лайбниц (в Хановер, Германия – бел. прев.) Ранна чернова на статията, която предстои да бъде представена в списание, твърди, че неизследваната надпревара към AGI (изкуствен общ интелект) е създала „системи, които вредят на маргинализираните групи и централизират властта, като същевременно използват езика на социалната справедливост и облагодетелстването на човечеството подобно на евгениците (от евгеника, приложна наука за подобрение генетичните качества на хората – бел. прев.) от 20 век”. Универсален, недефиниран AGI, добавят авторите, не може да бъде правилно тестван за безопасност и следователно не трябва да се изгражда.

Гебру и Торес правят допълнителната крачка да изследват интелектуалните мотиви на про-AGI групата. Торес уточнява в имейл до мен, пише Ахуджа, че в основата на този пакет [Tescreal] е една техно-утопична визия за бъдещето, в което ние ставаме радикално „подобрени“, безсмъртни „постчовеци“, колонизираме Вселената, променяме цели галактики и създаваме светове на виртуална реалност, в които съществуват трилиони „дигитални хора“.

Технологичните светила със сигурност се припокриват в интересите си. Илон Мъск, който иска да колонизира Марс, изрази симпатия към дългосрочността и притежава Neuralink, по същество трансхуманистична компания. Питър Тийл, съоснователят на PayPal, подкрепи технологиите против стареене и финансира конкурент на Neuralink. И Мъск, и Тийл инвестираха в OpenAI, създателя на ChatGPT. Подобно на Тийл, Рей Кързуайл, месията на сингуляризма, сега на работа в Google, иска да бъде криогенно замразен и съживен в едно напреднало в научната област бъдеще.

Друга влиятелна фигура е философът Ник Бостром, мислител на дългосрочността. Той ръководи Института за бъдещето на човечеството към Оксфордския университет, сред чиито спонсори е Мъск. Институтът работи в тясно сътрудничество с Центъра за ефективен алтруизъм, базирана в Оксфорд благотворителна организация. Някои ефективни алтруисти посочиха кариерите в AI безопасността като интелигентен гамбит. В края на краищата няма по-ефективен начин да правим добро от това да спасим нашия вид от робокалипсис.

Гебру, заедно с други, оприличава това говорене на насаждане на страх и шумен маркетинг. Мнозина ще се изкушат да отхвърлят възгледите й - тя беше уволнена от Google, след като изрази загриженост относно потреблението на енергия и социалните вреди, свързани с големите езикови модели - като кисело грозде или идеологическа бомбастичност. Но това замъглява мотивите на тези, които ръководят AI шоуто, ослепителен корпоративен спектакъл със сюжетна линия, която много малко са в състояние да следват уверено, камо ли да регулират.

Постоянното говорене за възможен техно-апокалипсис не само определя тези технологични дизайнери като пазители на човечеството, но също така предполага неизбежност по пътя, който поемаме. И отвлича вниманието от реалните вреди, които се натрупват днес, идентифицирани от учени като Руха Бенджъмин и Сафия Ноубъл. Алгоритмите за вземане на решения, използващи пристрастни данни, лишават от приоритет чернокожи пациенти за определени медицински процедури, докато генеративният AI краде човешки труд, разпространява дезинформация и излага на риск работни места.

Може би това са сюжетните обрати, които не трябваше да забелязваме.