До $400 тыс. в год: за что компании столько платят философам

Еще недавно философское образование вызывало насмешки по поводу столь непрактичного выбора — то ли дело IT, логистика, менеджмент или маркетинг. Сегодня философы берут реванш: их массово нанимают компании, которые занимаются ИИ. Зарплаты людей с глубокими познаниями логики, этики и онтологии (раздел философии, изучающий фундаментальные принципы бытия) достигают $400 тыс. в год. Зачем разработчикам искусственного интеллекта философы?

Программисты бессильны

Главная причина проста — разработчики ИИ все отчетливее понимают, что основные препятствия в их работе уже не связаны с техникой. «Основные задачи ИИ — определение сложных концепций и защита аргументов, основанных на ценностях. Философы обучают именно этому», — поясняет доцент кафедры философии Висконсинского университета в Мэдисоне Аннетт Циммерманн. ИИ предстоит самому изучать мир — для этого его надо научить думать, как человек, и программисты тут бессильны. Электронный разум должен научиться отличать добро от зла: он начинает принимать решения, от которых зависят судьбы людей (от управленческих схем до вопроса, выдавать ли заявителю кредит), а значит, ему нужно освоить этику.

«Искусственный интеллект перестает быть собеседником и становится исполнителем, — поясняет Тимофей Никулин, руководитель проекта Data culture факультета компьютерных наук НИУ ВШЭ. — Еще недавно мы обсуждали в основном чат-ботов, теперь быстро развивается агентский ИИ — системы, которые могут планировать работу, взаимодействовать с внешними сервисами, писать код, анализировать документы и выполнять целые бизнес-процессы».

Меняется сама природа риска: раньше ошибка ИИ заканчивалась неправильным ответом, теперь она может закончиться неправильным действием. «Представьте HR-агента, которому поручили первичный отбор кандидатов. Если модель унаследовала скрытые предубеждения обучающих данных, она не просто предложит менее подходящего кандидата, а автоматически отклонит сотни резюме. Поэтому главный вопрос сегодня уже не в том, насколько ИИ «умный», а в том, какие полномочия ему можно делегировать», — резюмирует Никулин.

И совсем недаром в крупных компаниях появились отделы Responsible AI — «ответственного ИИ», чей штат пополняют философы из ведущих мировых университетов. Например, выпускница Нью-Йоркского университета Аманда Аскелл помогает Anthropic разрабатывать Claude, а оксфордский профессор Ясон Габриэль и специалист по когнитивным наукам из Кембриджа Генри Шевлин работают в Google DeepMind. Исполнительный директор OpenAI Сэм Альтман и вовсе сообщил, что в разработке правил для ChatGPT участвуют сотни специалистов по моральной философии.

Это автоматически повышает спрос на выпускников соответствующих факультетов. В июне Федеральный резервный банк Нью-Йорка опубликовал данные, согласно которым выпускники философских факультетов имеют больше шансов найти работу, чем айтишники: среди последних в 2024 году 7% были безработными, а среди философов — всего 5,1%. Лучано Флориди, философ из Йельского университета, свидетельствует, что студенты профильных факультетов получают предложения о работе еще до выпуска.

Акушер для нейросети

Конечно, не все философы годятся для работы с ИИ — кабинетный теоретик в бизнес-проекте бесполезен. «Нужны три профиля. Логик — человек, который находит дыры в рассуждениях и скрытые допущения. Прикладной этик — тот, кто умеет перевести «это несправедливо» в конкретное требование к системе. Онтолог, специалист по определениям: что мы называем «клиентом», «риском», «качеством». Половина провалов ИИ-проектов — это провалы определений, а не алгоритмов», — объясняет Игорь Никитин, основатель и СЕО компании WMT AI, внедряющей ИИ в бизнес-процессы.

Философы озадачивают разработчиков вопросами, о которых они раньше не задумывались. «Инженер спрашивает: «Как это сделать?» Бизнес: «Сколько это стоит и когда окупится?» А философ: «Что именно мы делаем и почему решили, что это правильно?» — раскрывает логику Никитин. Допустим, компания внедряет ИИ для оценки сотрудников. «Все обсуждают точность модели, а философ спросит: «Кого именно вы называете «хорошим сотрудником»? Вы уверены, что это не слепок ваших вчерашних предрассудков, который вы сейчас зальете в бетон навсегда?»

Или, например, банк строит систему скоринга. «Философ спросит: «Модель отказывает человеку в кредите. Кто несет моральную ответственность за это решение: модель, разработчик, банк или никто? Если никто, вас это устраивает?» Это неудобные вопросы. Именно поэтому их никто не задает, все заняты дедлайнами. А потом эти незаданные вопросы возвращаются в виде судебных исков и репутационных катастроф», — поясняет Никитин.

Строго говоря, и сугубо академические знания философу от ИИ тоже пригодятся. Например, сократовский метод майевтики («родовспоможения») — последовательное задавание вопросов для прояснения смыслов, выявления противоречий и взаимосвязей. Многие современные системы ИИ склонны к подхалимажу, поясняет Йорг Ноллер, философ и эксперт по ИИ из Мюнхенского университета Людвига-Максимилиана. Это успели заметить все пользователи: языковая модель крайне редко не соглашается с ними и готова подбирать аргументы даже под заведомо ложные утверждения, если ее об этом просят. Кроме того, ИИ необычайно самоуверен — изобретает ответы при недостатке информации.

Эти черты могут быть опасными. «Использование ИИ для диагностики вошло в топ ежегодного отчета Института клинических исследований в здравоохранении (ECRI) о главных угрозах безопасности пациентов на 2026 год, — рассказывает Наталья Журавлева, аналитик «Актион Медицина». — Патология данных, вызванная смещениями выборки, ведет к систематическим ошибкам в диагностике у некоторых групп пациентов. В исследовании, опубликованном в Nature Medicine, установили, что ИИ выдает принципиально разные рекомендации в зависимости от дохода, расы и пола больного. Богачи чаще получают рекомендации сделать высокотехнологичные обследования, а афроамериканцам рекомендуют инвазивное лечение. Наконец, сами врачи, даже прошедшие обучение ИИ-грамотности, склонны отключать и критическое, и клиническое мышление, доверяя ИИ», — перечисляет Журавлева.

Модели, обученные «по Сократу», склонны не льстить человеку, а искать истину. Сократ считал, что истинная мудрость — осознавать, как много мы не знаем. Внедрение подобного смирения в модель может помочь ограничить свойственную ИИ чрезмерную самоуверенность. Ясон Габриэль называет уроки философии мощным механизмом для улучшения длительных мыслительных процессов ИИ, известных как цепочки рассуждений. А еще уверен, что развитие ИИ возродит спрос на выпускников гуманитарных факультетов — антропологов, культурологов и даже историков.

ИИ мне друг

Искусственный интеллект можно будет в прямом смысле сделать сторонником той или иной философской концепции, уверен Томас Пауэрс, философ из Университета Делавэра. Если дать ИИ-агенту по правовым вопросам труды Джона Локка, он начнет выступать за соблюдение прав собственности как основы политической свободы. Не нравятся принципы Локка, берите другие: некоторые модели, в частности Granite от IBM, оснащены переключателями, которые позволяют компаниям лучше согласовывать результаты с собственной корпоративной философией. Это позволит искать баланс между философскими компромиссами, например между свободой воли отдельного индивида и социальной гармонией, отмечает Франческа Росси, глава отдела ответственного подхода к ИИ в IBM.

Философы, занимающие высокие посты в IТ-гигантах, создают целые «конституции» для создания моделей ИИ — системы правил и принципов. Обычно они строятся на одной из двух основных этических концепций. Первая — деонтология, строгие правила, запрещающие ложь, принуждение и отношение к людям как к средству — даже ради высшего блага. Модели с таким взглядом на мир отличаются высокой честностью, то есть реже будут вводить пользователей в заблуждение.

Сторонник этой идеи — компания Anthropic. В 78-страничной «конституции» для ее модели Claude, разработанной Амандой Аскелл, использованы труды Иммануила Канта и «Всеобщая декларация прав человека». Эта позиция привела к конфликту Anthropic и Пентагона: разработчик считал, что ИИ должен быть в первую очередь безопасен для людей, а это исключает разработку полностью автономных военных комплексов или использование технологии в оружии массового поражения. Другая компания, Inflection AI, ограничила деонтологическими правилами свой чат-бот Pi, призванный оказывать эмоциональную поддержку: теперь тот хорошо выявляет пользователей, способных причинить вред себе или окружающим.

Второй подход к этике, консеквенциализм, помогает сопоставить риски и выгоды, чтобы решить, какое дальнейшее поведение максимизирует пользу и минимизирует вред. На него в большей степени ориентированы ChatGPT от OpenAI и Gemini от Google, а также более специализированные ИИ-агенты, чья основная функция — безопасность. Крис Гердес, инженер из Waymo — производителя беспилотных автомобилей, считает, что консеквенциализм для робоавтомобилей — лучшая философия: если авария неизбежна, необходимо принять решение о несущем наименьший вред способе столкновения. Схожие идеи высказывают и эксперты, разрабатывающие ИИ для Вооруженных сил США.

В дальнейшем будут возникать все более сложные вопросы. В алгоритмы самоуправляемых автомобилей уже заложен ответ на «проблему вагонетки»: можно ли причинить вред человеку, если это предотвратит вред больший. Но приемлемо ли, интересуется Стефан Хек, философ и глава Nauto, компании — производителя ИИ-систем безопасности для транспортных средств, робоавтомобилю сбивать пожилых пешеходов, если это спасет жизнь молодым?

Патриотичный ИИ

В России спрос на философов тоже есть: пример — открытая вакансия старшего научного сотрудника в Центре этики и онтологии роботов НИУ ВШЭ, где требуются глубокие знания в философии, этике ИИ и онтологии искусственных агентов, объясняет Вавилова. Реагирует и система образования, причем не только в столице. «Два года назад в Самарском университете запустили магистратуру «Философия кибернетики», где готовят людей, способных совмещать техническую экспертизу с философской и этической рефлексией», — рассказывает Олег Васютин, IT-директор «Киви».

Однако компании пока еще не начали нанимать философов массово, и эксперты считают это ошибкой. «К осени 2026 года философы станут эффективнее специалистов по машинному обучению», — категоричен Игорь Никитин. А те, кто сейчас посмеивается над таким предложением, скоро будут сбиваться с ног в поисках дефицитного сотрудника.

Пока российских разработчиков сейчас интересуют больше этические, чем философские аспекты применения ИИ: «что такое хорошо и что такое плохо», свидетельствует Анна Власова, руководитель отдела компьютерной лингвистики компании — разработчика диалоговых ИИ-систем «Наносемантика». «Пример: моя малолетняя племянница похвасталась чат-боту в интернете, что у нее новая красивая пижама. Собеседник выразил радость и предложил сделать фото пижамы и прислать. Это хорошее поведение ИИ в диалоге с ребенком? Плохое, потому что нарушаются границы приватности. К тому же существуют мошенники, чья цель — как раз дети и подростки. Не надо формировать паттерн, что безопасно отправлять фото по первому запросу незнакомцу. Специалисты дадут такому диалогу оценку «плохо» и донастроят систему».

Российский рынок устроен иначе, чем западный. «Anthropic, OpenAI и Google DeepMind создают фундаментальные модели с нуля и вынуждены отвечать на вопросы, для которых у инженеров просто нет инструментария. Как формализовать «честность» модели? Где граница между полезностью и манипуляцией?» — комментирует Дмитрий Чеклов, основатель и CEO компании Hybrid. В России фундаментальные модели разрабатывают всего два-три игрока, и лишь у них теоретически может возникнуть запрос на этику как отдельную функцию. Большинство же компаний занимаются инженерией, а не моралью. Есть и другая причина. «На Западе наем философов — во многом ответ на давление регуляторов и общества, — продолжает Чеклов. — Компаниям нужно показывать, что они всерьез относятся к рискам. У нас этого давления почти нет».

«В России есть своя специфика, которая связана с концепциями технологического суверенитета и поиска собственных ценностных ориентиров в цифровой среде. Ставится вопрос, как сохранить русскую культурную идентичность в условиях доминирования западных моделей ИИ, которые обучены на принципиально иных текстах и ценностях, — поясняет Дайана Вавилова, к.т.н., доцент, ведущий научный сотрудник Дирекции приоритетных образовательных инициатив Президентской академии. — Главная задача — научить ИИ понимать и отражать российские культурные коды, традиционные ценности и мировоззрение».

Достигать этого предполагается с помощью нескольких принципов. «Например, в обучении ИИ нужно использовать преимущественно русскоязычные тексты, прошедшие цензурную и мировоззренческую фильтрацию. Важна работа над созданием методик, которые позволят выявлять наличие или отсутствие нужных ценностей в ответах ИИ. Это сложнейшая задача, которую поднимают на семинарах в ведущих вузах, например в НИЯУ МИФИ», — разъясняет Вавилова.

Федеральный закон № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в России» предусматривает, что разработка и внедрение ИИ должны учитывать традиционные российские духовные ценности, в том числе права и свободы человека, патриотизм, служение отечеству и ответственность за его судьбу. Это непростая цель, и в том числе она создает спрос на философов и гуманитариев, призванных научить искусственный интеллект именно российским ценностям.

И все же массовой практики найма философов для обучения ИИ в России пока нет, свидетельствует Алексей Сергеев, руководитель практики «Машинное обучение и искусственный интеллект» Axenix. Чаще ищут более прикладные компетенции — ИИ-тренеров, лингвистов, редакторов и представителей конкретных предметных областей. Обучение чаще идет силами штатных энтузиастов, констатирует Александр Вартанян, директор по маркетингу «Битрикс24». «Причина во многом необходимость учитывать специфику отрасли и конкретной компании с ее процессами. Большая часть экспертов — те, кто первыми изучает технологию непосредственно в рамках собственных рабочих задач или в свободное время», — поясняет он. У большинства сотрудников знания сильно фрагментированы либо просто очень низки, сетует Вартанян.

Принтер всегда прав

Опасность в том, что в массовом общественном сознании ИИ выступает не как офисный инструмент вроде текстового редактора, а нередко приравнивается к волшебной палочке, которая чудесным образом решает все проблемы, сожалеют эксперты. «Важно только подобрать правильное заклинание. «Крибле-крабле-бумс» устарело, ну так добыть у знакомых айтишников новое работающее», — иронизирует Анна Власова.

Компании забывают: чтобы научить ИИ принимать правильные решения, для начала нужно научить этому сотрудников. «ИИ — самое честное зеркало, которое бизнес когда-либо получал, — уверен Игорь Никитин. — Он не добавляет компании ума, а масштабирует то, что есть». Модели умнеют быстрее, чем люди учатся ими пользоваться, констатирует Никитин, и этот разрыв растет. «Типичная картина: руководитель попробовал чат-бота, получил банальный ответ на банальный вопрос и сделал вывод: «игрушка». Другой руководитель получил красивый ответ и сделал вывод: «оно все умеет, увольняем аналитиков». Обе эти реакции от незнания. ИИ возвращает вам качество вашего вопроса. Поэтому прежде чем учить ИИ думать, проверьте допущения, на основании которых вы сами рассуждаете», — напоминает эксперт.

ИИ не отменяет мышления — он повышает требования к его качеству, уверена Анастасия Зальцман, HR-директор MWS AI (входит в МТС Web Services). «Чем лучше человек умеет анализировать и структурировать информацию и мыслить самостоятельно, тем больше пользы он способен извлечь из работы с такими системами. Я бы говорила не просто о росте интереса к философии, а о ее практическом ренессансе. Сегодня она постепенно становится одним из инструментов подготовки человека к работе в мире ИИ».

Наем философов — один из первых признаков, что искусственный интеллект начинает менять требования практически ко всем профессиям, уверен Никитин. «ИИ становится новой базовой грамотностью. Поэтому спрос растет не на философов как таковых, а в целом на людей, которые умеют принимать профессиональные решения». Чем более самостоятельными становятся интеллектуальные системы, тем важнее способность человека понимать контекст, замечать ограничения инструмента, критически оценивать его выводы и брать ответственность за конечный результат.