Какво е ефективен алтруизъм и какво общо има с драмата с OpenAI?

Изгонването и след това бързото връщане на Сам Алтман начело на OpenAI, стартъпът за изкуствен интелект, на който е съосновател, бе кулминацията на дълго назряващ сблъсък на мирогледи, замаскиран от стряскащия успех на компанията. От едната страна са търговските амбиции на Алтман и основният инвеститор на OpenAI – Microsoft Corp. От другата страна са членовете на борда, които се притесняват, че изкуственият интелект (AI) един ден може да заличи човечеството. Това притеснение е един от двигателите на движението на ефективния алтруизъм, превърнало се във влиятелна сила в Силициевата долина и AI индустрията като цяло, пише Bloomberg.

Какво точно е ефективният алтруизъм?

Това е движение, чиято цел е чрез проучвания и аргументи да се решат най-належащите международни проблеми за благото на максимален брой хора. То отразява идеите на Питър Сингър, философ и професор по биоетика в Университета в Принстън. Според него хората трябва да използват средствата си, за да спасяват колкото се може повече животи, най-вече в части на света, където животът може лесно да бъде спасен на относително ниска цена.

Ефективният алтруизъм е свързан с концепцията за утилитаризма – теория, която набляга на увеличението на общите ползи за света. До началото на второто десетилетие на века ефективният алтруизъм вече е вдъхновил няколко неправителствени организации, които насочват донори към каузи като покупка на мрежи против малария в Субсахарска Африка, даряване на органи на умиращи хора и разпространение на медицински консумативи в по-слабо развити държави.

Какво общо има тук AI?

През последното десетилетие ефективният алтруизъм разшири мисията си към това да предотвратява възможни сценарии за бъдещето, в които човечеството може да изчезне, като ядрена война или пандемия. В този списък е и AI апокалипсис. От началото на хилядолетието неколцина теоретици твърдят, че появата на мощен AI може да се окаже опасност или дори да доведе до края на човечеството.

Идеята започна да се размножава в полето на безопасността на изкуствения интелект, което цели да предотврати бедствия заради работата около AI. Безопасността на технологията бе приета като важна кауза от големи имена в Силициевата долина, които вярват в ефективния алтруизъм, като Питър Тийл, Илон Мъск и Сам Банкман-Фрийд, основателят на криптоборсата FTX, който през ноември бе признат за виновен за извършването на мащабна измама.

Какви са притесненията за AI?

Привържениците на ефективния алтруизъм се страхуват, че силата на изкуствения интелект един ден ще изпревари тази на рационалния човек и технологията ще се обърне срещу човечеството. Решенията, които предприемачите и разработчиците взимат днес, неотменимо ще формират хода на човечеството, вярват те, и по тази причина индустрията трябва да осъзнае какви са залозите в този момент и да вземе мъдри решения.

Тези разпростиращи се нашироко опасения причиниха спад в клон на ефективния алтруизъм, наречен „longtermism“, т.е. вярване, което набляга на моралната стойност на бъдещите хора и задължението на настоящите поколения да защитят интересите им. В същото време „neartermism“ описва неща, които засягат хората, живеещи днес, като например предотвратяване на разпространението на болести.

Как всичко това засяга случилото се в OpenAI?

Основана с мисията да „гарантира, че AI е от полза на всички хора“, OpenAI трябваше да е противотежест на движените от печалбите усилия на лабораториите на технологични гиганти като Google на Alphabet Inc. Някои от членовете на Управителния съвет на OpenAI имат връзки – минали и настоящи – с движението на ефективния алтруизъм. Стартъпът започва дейност като неправителствена организация, но впоследствие прибавя подразделение с цел печалба, за да може да набере големите суми пари, необходими за оперирането на технологията, която захранва ChatGPT и DALL-E. OpenAI привлече милиарди долари от Microsoft и към октомври стойността ѝ е 86 млрд. долара. Всичко това доведе до напрежение между търговските амбиции на OpenAI – движени от Алтман и Microsoft – и тревогите на някои членове на борда, че развитието на AI може би е прекалено бързо.