Разработчики сообщили об отказе Claude и Codex делать реверс-инжиниринг
Фото: NaMong Productions92 / Shutterstock
Пользователи ИИ-помощников Claude от Anthropic и Codex от OpenAI сообщили об отказах выполнять некоторые задачи по реверс-инжинирингу — изучению устройства программ и прошивок. На жалобы обратил внимание «Хабр».
Пользователь соцсети X под ником log4j заявил о блокировке аккаунта OpenAI после работы над обратной разработкой. По его словам, он исследовал программы локально и не использовал сервисы компании для эксплуатации или поиска уязвимостей. Пользователь оценил потерю средств в $500 и также сообщил о потере накопленных возможностей восстановления лимитов.
Другой пользователь X, автор аккаунта @0x0SojalSec, сообщил об отказах Claude выполнять подобные задачи. По его утверждению, система безопасности может остановить ответ уже после начала работы. Он связал это с обсуждением случаев исследования прошивок телевизоров Samsung, однако подтверждения такой связи от Anthropic нет.
Официального объявления OpenAI или Anthropic о новом общем запрете на реверс-инжиниринг либо создание бесплатных аналогов платных программ не обнаружено. Сообщения отдельных пользователей не позволяют установить, ввели ли компании новые ограничения и насколько широко они действуют.
Реверс-инжиниринг, или обратная разработка, — это исследование готовой программы, чтобы понять, как она устроена и работает, в том числе без доступа к ее исходному коду. Специалисты анализируют файлы программы, выполняемые ею команды и реакцию на действия пользователя. Полученные сведения позволяют искать уязвимости, изучать вредоносное ПО, обеспечивать совместимость с другими программами или создавать собственные аналоги с похожими функциями. При обычной разработке от замысла переходят к готовому продукту, при обратной — от готового продукта к пониманию принципов его работы.
Один из примеров применения ИИ для создания аналогов коммерческих программ — проект ArtCraft разработчика Брэндона Томаса. С помощью Claude он выпускает бесплатные приложения с открытым исходным кодом, воспроизводящие функции программ Adobe и Microsoft, писал Windows Central. Среди них — аналоги Word, Excel и PowerPoint. Пока это ранние версии, а не полноценная замена оригиналам. Подтверждений связи пользовательских жалоб с проектом Томаса нет.
Оставайтесь на связи с РБК в «Максе».