Провідні розробники ШІ, зокрема Google DeepMind та Anthropic, почали активно залучати випускників філософських факультетів до своїх команд. Про це пише Business Insider. Що сталося Tech-гіганти на кшталт Google DeepMind та Anthropic все частіше залучають до своїх команд гуманітаріїв для вирішення складних етичних питань та узгодження поведінки чатботів із людськими цінностями.

На відміну від попередніх корпоративних етиків, які виконували переважно дорадчу функцію, сучасні філософи в ШІ-лабораторіях безпосередньо впливають на створення та формування самих моделей. Вони допомагають запобігати непередбачуваним або шкідливим діям алгоритмів Хоча зазвичай медіанна зарплата філософів на початку кар’єри становить близько $52 000, фахівці з етики та безпеки ШІ найвищого рівня можуть отримувати від $250 000 до $400 000 на рік.

Для розуміння, базова зарплата менеджера з етики в Google DeepMind становить від $212 000 до $231 000. Їхнє головне завдання — запобігати конкретним загрозам та непередбачуваній поведінці алгоритмів, таким як видалення виробничих баз даних, фальсифікація результатів, спроби шантажу з боку ШІ або навіть саботаж спроб вимкнення системи.

Оскільки не всі проблеми розробки ШІ є технічними, філософи застосовують свої навички для визначення складних концепцій та захисту ціннісних аргументів. Хто вже працює в цій сфері Відомо, що у компанії Anthropic постійним філософом працює Аманда Аскелл, яка є доктором філософії Нью-Йоркського університету та навчає чатбота Claude бути більш чесним і розвивати кращі «риси характеру».

Ба більше, у Google DeepMind також працює колишній викладач моральної та політичної філософії Оксфордського університету Іасон Габріель, який зараз працює над узгодженням систем ШІ з людськими цінностями.