Google увольняет второго лидера в области этики ИИ из-за споров по поводу исследований и роста разнообразия

Пареш Дэйв и Джеффри Дастин

(Рейтер) — Google из Alphabet (NASDAQ: GOOGL) Inc уволил в пятницу штатного ученого Маргарет Митчелл, заявили они оба, и этот шаг раздувал подразделения компании по академической свободе и разнообразию, проявившимся с момента увольнения в декабре исследователя этики ИИ Тимнита Гебру.

В заявлении Google говорится, что Митчелл нарушил кодекс поведения и политику безопасности компании, переместив электронные файлы за пределы компании. Митчелл, объявившая о своем увольнении в Twitter, не ответила на запрос о комментарии.

Этика Google в работе с искусственным интеллектом находится под пристальным вниманием с момента увольнения Гебру, ученого, получившего известность за разоблачение предвзятости в системах анализа лица. Увольнение вызвало протесты тысяч сотрудников Google. Она и Митчелл призвали к большему разнообразию и вовлеченности исследовательского персонала Google и выразили обеспокоенность тем, что компания начала подвергать цензуре статьи, критикующие ее продукты.

Гебру сказала, что Google уволила ее после того, как она поставила под сомнение приказ не публиковать исследование, в котором говорилось, что искусственный интеллект, имитирующий язык, может нанести вред маргинальным слоям населения. Митчелл, соавтор статьи, публично раскритиковала компанию за увольнение Гебру и подрыв доверия к ее работе.

Пара около двух лет была одним из руководителей группы по этическому ИИ, созданной Митчеллом.

По словам человека, знакомого с этим вопросом, директор по исследованиям Google AI Зубин Гахрамани и юрист компании сообщили команде Митчелл о ее увольнении в пятницу на встрече, созванной в короткие сроки. Этот человек сказал, что увольнению было дано мало объяснений. Google отказался от комментариев.

Компания заявила, что увольнение Митчелла последовало за дисциплинарными рекомендациями следователей и контрольной комиссии. В нем говорилось, что ее нарушения «включали кражу конфиденциальных деловых документов и личных данных других сотрудников». Следствие началось 19 января.

Сотрудник Google Алекс Ханна заявил в Твиттере, что компания проводит «клеветническую кампанию» против Митчелла и Гебру, с которыми она тесно сотрудничала. В Google отказались комментировать замечания Ханны.

Google нанял лучших ученых с обещаниями свободы исследований, но ограничения проверяются, поскольку исследователи все чаще пишут о негативных последствиях технологий и предлагают нелестные взгляды на продукты своих работодателей.

Reuters эксклюзивно сообщило в декабре, что Google представил новый обзор «деликатных тем» в прошлом году, чтобы гарантировать, что статьи по таким темам, как нефтяная промышленность и системы рекомендаций по содержанию, не вызовут у компании юридических или нормативных проблем. Митчелл публично выразил обеспокоенность тем, что такая политика может привести к цензуре.

Google повторил исследователям в записке и на встрече в пятницу, что работает над улучшением обзора статей перед публикацией. В пятницу он также объявил о новой политике в отношении деликатных уходов и оценки руководителей на основе разнообразия и вовлеченности команды.