Корпорация Apple приняла решение ввести ограничения на количество сообщений об ошибках безопасности, которые независимые исследователи могут направлять в компанию. Данная мера стала ответом на перегрузку системы проверки, вызванную резким ростом «некачественных» отчетов, сгенерированных с помощью искусственного интеллекта.
Как сообщает The New York Times, массовое использование нейросетей для поиска уязвимостей привело к тому, что в службу безопасности компании хлынул поток ложных и некорректных данных. Хотя ИИ действительно помог выявить больше реальных проблем, он же стал инструментом для любителей-энтузиастов, которые начали генерировать огромные объемы сообщений, требующих ручной проверки.
Новые правила для исследователей
В компании пояснили, что были скорректированы лимиты на количество новых отчетов, которые исследователь может открыть одновременно. Это сделано для того, чтобы гарантировать, что критически важные сообщения дойдут до специалистов по безопасности и будут рассмотрены в приоритетном порядке. При этом разработчики оставили возможность запросить увеличение лимита в любое время.
Кроме того, Apple ввела 30-дневный период ожидания для отправки сообщений через внутренний портал безопасности. Несмотря на то, что для сортировки входящей информации используются алгоритмы ИИ, финальная проверка каждого сообщения о выявленном баге по-прежнему требует участия человека.
Реакция индустрии и реальные кейсы
Новые ограничения уже затронули работу профессионалов в сфере кибербезопасности. Итальянский стартап Bynario сообщил, что из-за введенных лимитов не смог оперативно передать Apple отчет о выявленных уязвимостях. Одна из них относится к цепочке эксплойтов повышения привилегий, которая теоретически позволяет злоумышленнику получить полный контроль над операционной системой macOS.
Специалисты Bynario утверждают, что с помощью OpenAI ChatGPT им удалось всего за три недели выявить более 50 ошибок в последней версии macOS. Однако из-за наложенных ограничений эти данные не были переданы в Apple в полном объеме.
Парадокс ИИ: угроза и помощь
Ситуация демонстрирует двойственную природу искусственного интеллекта в сфере безопасности. С одной стороны, инструменты от Anthropic и OpenAI помогли самой Apple повысить эффективность разработки. По словам представителей компании, благодаря использованию ИИ последние обновления программного обеспечения содержат примерно в пять раз больше исправлений безопасности, чем в предыдущих релизах.
С другой стороны, доступность этих же инструментов для широкого круга пользователей привела к спаму в каналах обратной связи. Apple подтвердила, что рассматривает отправленные отчёты от Bynario, пытаясь найти баланс между автоматизацией поиска уязвимостей и качеством поступающей информации.
