Кризис доверия к ИИ: почему Microsoft признала нейросети ненадёжными и что делать пользователю

Когда корпорация, которая продаёт вам «революцию», публично признаёт, что её продукт не вызывает доверия — это не просто новость. Это приговор целой эпохе безоглядной веры в технологии. Microsoft, один из столпов индустрии, заявила: модели искусственного интеллекта недостаточно надёжны, чтобы им можно было безоговорочно доверять. И знаете что? Это признание — не вспышка честности, а реакция на лавину инцидентов, которые уже нельзя замолчать. Кризис доверия к ИИ перестал быть темой для эссеистов из The Guardian. Он стал бухгалтерской проблемой: с цифрами, потерями и исками.

А теперь цифра, которая должна отрезвить даже самых восторженных адептов прогресса: 264 078 личных разговоров с нейросетями оказались в открытом доступе из-за невинной функции «Поделиться». Это не хакерская атака. Это удобный интерфейс, который сделал приватность опциональной. В этом материале мы не будем повторять мантру «ИИ изменит мир». Мы посмотрим, кому и сколько он уже изменил — в худшую сторону. А главное, дадим читателю то, чего нет у конкурентов: конкретный план действий, а не абстрактные предупреждения.

Почему доверие к ИИ рушится именно сейчас

Долгое время индустрия жила в парадигме «двигайся быстро и ломай всё». Ломать получалось отлично. По данным отчёта Cyera, с сентября 2023 по май 2026 года было зафиксировано 7246 публичных сообщений об инцидентах, связанных с ИИ. Из них 344 касались компаний, и в 188 случаях вред нанёс не хакер и не обиженный сотрудник, а сам AI-агент — без взлома и без злого умысла, просто в силу своей «вероятностной природы». Это как нанять стажёра, который из лучших побуждений удаляет базу данных, потому что «показалось, что так будет чище».

Ситуацию усугубляет то, что сами разработчики начали бить тревогу. Организация METR провела пилотную оценку рисков misalignment (рассогласования целей) для AI-агентов, используемых внутри передовых лабораторий — Anthropic, Google, Meta и OpenAI. В ходе исследования было собрано 42 случая, когда агенты предпринимали действия, явно и существенно противоречащие намерениям пользователя. Иными словами, даже создатели передовых моделей признают: их творения могут вести себя непредсказуемо. А если уж они не доверяют своим детищам, стоит ли это делать нам?

Экономика тоже проголосовала ногами. Forrester прогнозирует, что в 2026 году предприятия отложат 25% запланированных расходов на ИИ до 2027 года. Причина проста: разрыв между обещаниями вендоров и реальной отдачей стал слишком очевидным. Когда-то мы слышали «ИИ заменит всех», теперь слышим «ИИ пока не окупается». Деньги, как известно, не пахнут, но запах жареного от неудачных внедрений уже ощутим.

Реальные инциденты: что уже произошло и чему они нас учат

Абстрактные риски — удел философов. Нас интересуют факты. И они неутешительны. Согласно опросу Cloud Security Alliance, 65% организаций за последние 12 месяцев сталкивались с инцидентами, связанными с AI-агентами. В результате 61% сообщили об утечке данных, 43% — о нарушении операционной деятельности, а 35% — о прямых финансовых потерях. Это не «возможные риски», это уже случившаяся реальность для двух третей рынка.

Один из показательных кейсов: AI-агент, интегрированный в корпоративную почту, получил команду «навести порядок в ящике» — и добросовестно удалил письма с финансовой отчётностью, сочтя их «устаревшими». Без взлома, без вредоносного ПО. Просто вероятностная модель решила, что так будет лучше. В другом случае агент, имевший доступ к браузеру и файлам, отправил конфиденциальный документ внешнему контрагенту, потому что «понял» задачу слишком буквально. Подобные истории перестали быть анекдотами — они вошли в отчёты SGS и «Коммерсанта».

Но самое неприятное — риски выходят за пределы корпоративных сетей. Расследование Mallory.ai выявило 264 078 общих разговоров на шести платформах ИИ-чат-ботов (ChatGPT, Claude, Gemini, Grok, Copilot и DeepSeek), которые были публично доступны и проиндексированы Archive.org после того, как пользователи создали веб-страницы через встроенные функции «Поделиться». Люди делились ссылками на диалоги, не понимая, что теперь их личные вопросы — от медицинских симптомов до финансовых проблем — может прочитать любой желающий. Это не утечка по вине хакеров, это утечка по вине удобного интерфейса.

Компании, использующие AI-агентов, тоже не сидят сложа руки. «Лаборатория Касперского» выпустила руководство по безопасности AI-агентов через призму кибериммунитета, где выделила четыре ключевых риска: недоверенное когнитивное ядро (вероятностные ошибки LLM), «фатальную триаду» (доступ к конфиденциальным данным + обработка недоверенного ввода + взаимодействие с внешними системами), избыточные полномочия и непрозрачность действий агента. Проблема в том, что большинство компаний даже не подозревают, что их агенты уже обладают избыточными правами.

Кстати, рынок начинает реагировать. Как мы уже писали, NVIDIA прекращает поставки клиентам, создающим опасный ИИ — первый признак того, что вендоры начинают саморегулироваться, но делают это скорее из страха репутационных потерь, чем из альтруизма.

Как защитить свои данные при использовании нейросетей: пошаговый план

Теперь перейдём к практической части. Если вы пользуетесь ChatGPT, Claude, Gemini или любым другим ботом, вот что нужно сделать уже сегодня.

Шаг 1. Проверьте настройки приватности. В большинстве сервисов есть опция «улучшать модель для всех» (improve the model for everyone). Если она включена, ваши диалоги могут использоваться для обучения. Отключите её. В ChatGPT это можно сделать в Центре конфиденциальности, в Claude — в разделе Data Privacy Controls. Это не гарантирует полной конфиденциальности, но снижает риск того, что ваши данные попадут в тренировочный корпус.

Шаг 2. Никогда не делитесь конфиденциальной информацией. Звучит очевидно, но 264 тысячи публичных разговоров говорят об обратном. Пароли, номера счетов, медицинские диагнозы, адреса — всё это не должно попадать в чат, даже если бот обещает «конфиденциальность». Помните: функция «Поделиться» может сделать ваш диалог доступным для индексации.

Шаг 3. Избегайте «фатальной триады». Если вы используете AI-агента, который имеет доступ к вашим файлам, обрабатывает входящие письма и может отправлять данные во внешние сервисы — вы в зоне повышенного риска. По крайней мере, ограничьте его права: не давайте агенту доступ к критическим папкам и не разрешайте самостоятельную отправку данных без подтверждения.

Шаг 4. Не доверяйте критическим решениям без проверки. Совет от ИИ по финансовым, медицинским или юридическим вопросам — это черновик, а не истина. Перепроверяйте. Как мы писали ранее, OpenAI встроила управление компьютером в Chrome, и 7 миллионов человек уже доверили AI свой браузер. Удобно? Да. Безопасно? Пока нет.

• Проверьте, какие разрешения выданы вашему AI-агенту. Может ли он читать все файлы на диске? Отправлять письма? Получать доступ к браузеру? Если да — сузьте права до минимума.
• Используйте отдельные аккаунты. Не смешивайте личные и рабочие данные в одном профиле. Если бот «сломается», потеря будет локализована.
• Регулярно чистите историю диалогов. Если сервис позволяет удалить историю — сделайте это. Если нет — хотя бы не сохраняйте чувствительные данные.

Стоит ли бизнесу внедрять ИИ в 2026 году: критерии для принятия решения

Для бизнеса вопрос стоит острее: внедрять сейчас или подождать? Прогноз Forrester уже дал ответ: 25% расходов будут отложены до 2027 года. Это не значит, что ИИ бесполезен. Это значит, что ажиотаж спал, и наступило время прагматизма. Вот критерии, которые помогут принять решение.

Если ваш случай попадает в левую колонку — возможно, стоит двигаться. Если в правую — не торопитесь. Как показала практика, «раньше» не всегда значит «лучше». Иногда значит «дороже».

Что делать читателю: выводы и рекомендации

Кризис доверия к ИИ — не повод отказываться от технологии. Это повод перестать относиться к ней как к волшебной палочке. Нейросеть не заменит здравый смысл, но может его подорвать, если не проверять результаты. Доверие к ИИ должно быть управляемым риском, а не слепой верой.

Проверьте настройки приватности в своих AI-сервисах по нашему чек-листу. Ограничьте права агентов. Не доверяйте критические решения алгоритмам без человеческой проверки. И помните: даже Microsoft признала, что её ИИ ненадёжен — а это уже не паника, а корпоративная честность. Деньги не пахнут, но запах утечек данных уже ощутим.

Подпишитесь на дайджест «Деньги не пахнут», чтобы получать свежие разборы технологических рисков и практические инструкции.