Мениджър на Google е уволнена заради имейл?

Тимнит Гебру, съ-ръководител на екипа за етичен изкуствен интелект в Google, заяви, че е уволнена от компанията заради изпращане на имейл, който ръководството счита за „несъвместим с очакванията към мениджър на Google“.

Имейлът и уволнението са кулминацията на продължаващи около седмица спорове за настояването на компанията Гебру да оттегли етичен документ за изкуствен интелект, който тя е написала заедно с шестима други, включително четирима служители на Google и който е бил представен за разглеждане за предстояща индустриална конференция следващата година, твърди Гебру в интервю за Bloomberg. Ако тя не е склонна да изтегли документа, Google иска да бъдат премахнати имената на служителите на компанията.

Гебру е помолила за обяснение вицепрезидента на Google Research Меган Качолия и ѝ е заявила, че без повече дискусии по документа и начина, по който се обработва, тя планира да подаде оставката си след преходен период. Тя също искала да се увери, че е наясно какво ще се случи с бъдещи подобни аналитични проекти, които нейният екип може да предприеме.

„Ние сме екип, наречен Ethical AI, разбира се, че ще пишем за проблеми в изкуствения интелект“, казва тя.

Междувременно Гебру се е присъединила към имейл група на изследователи на компанията, наречена Google Brain Women and Allies, коментирайки доклад, по който други работят за това колко малко жени са били наети от Google по време на пандемията. Гебру заяви, че според нейните преживявания подобна документация е малко вероятно да бъде ефективна, тъй като никой в Google няма да носи отговорност. Тя се позова на опита си с доклада за изкуствен интелект, представен за конференцията.

„Спрете да пишете документите си, защото това няма значение“, пише Гебру в имейла, получен от Bloomberg News. „Няма начин повече документи или повече разговори да постигнат нещо“, посочва тя.

На следващия ден Гебру заяви, че е уволнена по имейл, като съобщение от Качолия ѝ казва, че Google не може да отговори на нейните искания и зачита решението ѝ да напусне компанията в резултат на това. В имейла се казва, че „някои аспекти на имейла, който изпратихте снощи до не-мениджърски служители в мозъчната група, отразяват поведение, което е несъвместимо с очакванията за мениджър на Google“, става ясно от публикации в Twitter на Гебру. От тях става ясно, че по-конкретно Джеф Дийн, който оглавява отдела за изкуствен интелект на Google, има участие в нейното отстраняване.

„Това е най-основното заглушаване“, каза Гебру в интервюто си. „Те дори не чуват гласовете на учените“, допълва тя.

Представители на базираната в Маунтин Вю Google не са отговорили на множество искания за коментар.

Протестната група на Google - Google Walkout For Real Change, публикува петиция в подкрепа на Гебру в Medium, която събра над 400 подписа от служители в компанията и повече от 500 подписа от академични и индустриални групи.

Въпросният изследователски документ разглежда възможни етични проблеми при големи езикови модели, област на изследване, която се преследва от OpenAI, Google и други. Гебру каза, че не знае защо Google има притеснения относно документа, който според нея е одобрен от нейния мениджър и е изпратена на други в Google за коментар.

Google изисква всички публикации от своите изследователи да получат предварително одобрение, казва Гебру. Компанията ѝ е казала, че този документ не е спазил правилната процедура. Докладът беше представен на конференцията на ACM за справедливост, отчетност и прозрачност, на която мениджърът трябваше да присъства през март.

Документът отчита опасностите от използването на големи езикови модели за обучение на алгоритми, които могат например да пишат туитове, да отговарят на любопитни факти и да превеждат поезия, става ясно от копие на документа. Моделите са основно обучени чрез анализ на езика от интернет, който не отразява големи части от глобалното население, което все още не е онлайн, става ясно от документа. Гебру подчертава риска моделите да отразяват само мирогледа на хора, които са били достатъчно привилегировани да бъдат част от данните за обучението.

Гебру, възпитаник на Лабораторията за изкуствен интелект в Станфорд, е един от водещите учени по отношение на етичната употреба на изкуствения интелект. Тя е добре известна с работата си по забележително проучване през 2018 г., което показа как софтуерът за разпознаване на лица погрешно идентифицира тъмнокожите жени в 35% от случаите, докато технологията работи с почти 100% точност върху белите мъже.

Тя също така беше открит критик на липсата на разнообразие и неравно третиране на чернокожите в технологичните компании, особено в Google на Alphabet Inc., и заяви, че вярва, че нейното уволнение има за цел да изпрати послание до останалите служители на Google „да не си отварят устатата“.