IBM излиза от бизнеса с лицево разпознаване

International Business Machines Corp (IBM.N) разкрива в писмо до Конгреса на САЩ, че вече няма да предлага софтуер за разпознаване на лица или анализ. Концернът призовава за нови усилия за преследване на справедливостта и расовото равенство, заявява новият му главен изпълнителен директор Арвинд Кришна.

Компанията ще спре да предлага софтуер за разпознаване на лица и се противопоставя на всякаква употреба на такава технология за целите на масовото наблюдение и расовото профилиране, казва Кришна. Същевременно той призовава за нови федерални правила, за да бъде полицията по-отговорна при неправомерно поведение, предава Ройгерс.

IBM не обяснява кога е взето решението да се откаже от развитието на тази технология, но Кришна казва пред законодателите, че „сега е моментът да започне национален диалог за това дали и как технологията за лицево разпознаване трябва да се използва от местните правоприлагащи органи“.

Анонсирането се случва в момент, в който САЩ се борят с национални протести заради смъртта на чернокожия мъж Джордж Флойд при полицейски арест в Минеаполис и засилващи се призиви за полицейска реформа.

„IBM твърдо се противопоставя и няма да използва която и да е технология, включително технологията за разпознаване на лица, предлагана от други доставчици, за масово наблюдение, расово профилиране, нарушаване на основните права и свободи на човека“, пише Кришна и добавя, че „технологията може да увеличи прозрачността и да помогне на полицията при защитата на общностите, но не трябва да насърчава дискриминация или расова несправедливост. "

Правителствени служители в цялата страна предложиха реформи за справяне с полицейската бруталност и расова несправедливост, насочени към засилване на надзора върху правоприлагащите органи.

Кришна, ключовият архитект на придобиването на Red Hat за 34 млрд. долара орез миналата година, пое новата мениджърска позиция през април.

CNBC съобщава, че бизнесът за разпознаване на лица на IBM не е генерирал значителни приходи. Лице, запознато с въпроса, казва пред Ройтерс, че решенията за продуктите за лицево разпознаване са взети преди няколко месеца. Компанията вече няма да рекламира, продава или актуализира продуктите, но ще поддържа клиентите си при нужда, добавя източникът.

IBM вече не разработва, създава, проучва или продава продукти за разпознаване на лица в интерфейс за програмиране на приложения или друга форма. Визуалната технология на IBM ще бъде ограничена само до откриване на визуални обекти, а не до анализ на лица и идентификация, добавя източникът.

Софтуерът за лицево разпознаване се подобри значително през последното десетилетие благодарение на напредъка на изкуствения интелект. В същото време за технологията - тъй като често се предоставя от частни компании с малко регулация или федерален надзор - е доказано, че страда от пристрастия по отношение на възраст, раса и етническа принадлежност. Това може да направи инструментите ненадеждни при правоприлагането и сигурността и може да доведе до потенциални нарушения на гражданските права.

Проучване на Националния институт за стандарти и технологии (NIST) от декември 2019 г. разкрива „емпирични доказателства за съществуването на широк диапазон на точност при демографски разлики в повечето от текущите оценени алгоритми за лицево разпознаване. Технологията също така попада под критики заради ролята си в нарушения на личните данни и навлизането в личния живот.

По-специално, изследването на NIST не включва технологии от Amazon, която е една от малкото големи технологични компании, които продават софтуер за разпознаване на лица на органите на реда. И все пак Rekogservation - името на програмата ѝ, също беше критикувано за неточности. През 2018 г. Американският съюз за граждански свободи установи, че Rekogservation неправилно свързва 28 членове на Конгреса с лица, избрани от 25 000 публични фалшификати.  

Друга компания, Clearview AI, също беше разкритикувана по-рано тази година, когато бе открито, че нейният инструмент за разпознаване на лица, изграден с повече от 3 милиарда изображения, съставени отчасти от сайтове на социални медии, се използва широко от компании от частния сектор и правоприлагащите органи. От тогава Clearview получи много заповеди за прекратяване и отказване и е в центъра на редица съдебни дела за поверителност.

През януари Facebook беше осъдена да плати 550 милиона долара, за да уреди дело за незаконно използване на технологията за разпознаване на лица.

IBM се опита да помогне по темата с пристрастията в лицевото разпознаване, пускайки публичен набор от данни през 2018 г., предназначен да помогне за намаляване на пристрастията като част от обучителните данни за моделите за разпознаване на лица. Беше установено обаче, че IBM споделя отделен набор от данни за обучение от близо един милион снимки през януари 2019 г., направени от Flickr, без съгласието на субектите - въпреки че снимките са споделени под лиценз Creative Commons. IBM поясни пред The Verge в изявление по това време, че наборът данни ще бъде достъпен само на проверени изследователи и включва само изображения, които са публично достъпни.