Наталья Касперская о цифровизации по-российски
На фоне всеобщего энтузиазма по поводу «цифрового прорыва», когда чиновники, бизнес и даже простые граждане с готовностью отдают свои данные в облака, подписываются на электронные сервисы и мечтают о «бумаге как пережитке прошлого», звучит редкий, но резкий голос предостережения.
Наталья Касперская, президент группы компаний InfoWatch, один из самых уважаемых экспертов в области кибербезопасности в России, на панельной дискуссии в рамках одного из ключевых технологических форумов страны выступила с жёсткой, почти провокационной речью. Она не просто раскритиковала текущую модель цифровизации — она назвала её государственной изменой, если та осуществляется без учёта базовых принципов безопасности, устойчивости и здравого смысла.
«Отказ от бумаги к 2030 году? Это диверсия под государственное управление. На мой взгляд, это просто государственный измен», — заявила она, вызвав замешательство в зале.
Её выступление — не технический доклад, а страстное предупреждение: мы бежим в цифровое будущее, не проверив, есть ли у него тормоза. И когда система даст сбой — а она обязательно даст — мы окажемся без рук, без глаз и без защиты.
«Мы отдаем данные — и теряем контроль»
Касперская начинает с самого главного: цифровизация строится на данных. Но кто ими владеет? И кто их защищает?
«Вся цифровизация построена на данных. Это что значит? Это значит, что данные, которые мы отдаем в облака или в какие-то государственные системы, они подвержены рискам информационной безопасности. Риски информационной безопасности на 100% не купируются. Это просто невозможно».
Она подчёркивает: человечество до сих пор не решило задачу гарантированной защиты от утечек. Ни в одной стране мира. Ни одна технология — ни шифрование, ни блокчейн, ни ИИ — не даёт абсолютной гарантии. А значит, каждый раз, когда мы загружаем документ в госуслуги, регистрируем ребёнка в школе онлайн или оплачиваем налог через приложение, мы сознательно идём на риск.
Но самый тревожный момент — мы не контролируем платформы, на которых эти данные хранятся.
«У всех у вас в карманах лежат смартфоны… Посмотрите — чего производства? Вдруг я ошибаюсь, российского производства смартфоны?.. Это иностранная платформа. Соответственно, все наши данные принадлежат тому производителю… Либо это американцы, либо китайцы, которые уж точно не посмущаются понапихать туда закладок, какие они только могут».
Это не паранойя. Это констатация факта: российские данные, обрабатываемые на иностранных устройствах и в иностранных облаках, находятся вне юрисдикции России. И в условиях геополитической напряжённости это — не просто уязвимость, а стратегическая угроза.
«Как вы их собираетесь защищать? Как мы создадим щит кибербезопасности страны? Ответ — никак. С наиностранных систем это невозможно».
«Мы зависим от электричества и интернета — а их могут отключить»
Касперская напоминает: цифровизация — это не абстракция. Это конкретные физические условия: свет в розетке и сигнал в телефоне. А в условиях войны эти условия становятся хрупкими.
«Я сейчас живу на даче, за городом… У нас интернет с вечера и до утра отключают каждый день. Почему? Летят БПЛА на Москву… Они ориентируются по вышкам. Для того чтобы сбить им навигацию, выключается интернет. Иногда и днём».
Она не теоретизирует — она говорит из личного опыта. И этот опыт показывает: цифровая инфраструктура — мишень. И если государство строит свою работу исключительно на ней, то при первом же отключении оно парализуется.
Касперская приводит яркий пример:
«Сегодня мы шли на завтрак с Максутом Шадаевым… Проходим — система не работает. Говорим: “Ну пустите, у нас завтрак с министром!” — “Ждите. Система не работает”. Там собралась толпа. Я говорю: “Вот бумажная карточка, вот фамилия, вот паспорт!” — “Нет, нам нужно в систему”».
Только случайность спасла ситуацию: один из десяти терминалов заработал. Но что, если бы нет?
«Если мы будем полагаться на электронные системы, то в момент отключения мы рискуем оказаться безрукими, глухими и слепыми котятами. Абсолютно. Это гигантский риск, который нельзя недооценивать».
«Электронный кнут для чиновников — иллюзия контроля»
Касперская иронично комментирует популярную идею: заменить чиновников роботами. Мол, электронные системы сделают управление прозрачным, эффективным, лишённым коррупции.
«Максут Игоревич Шадаев (министр цифрового развития и связи РФ) очень любит говорить, что наши идеалы — это чиновник-робот… По сути, мы предлагаем электронный кнут для чиновников».
Но на практике это выглядит иначе. Во-первых, чиновники сопротивляются — особенно региональные, чья мотивация падает. Во-вторых, электронные системы не решают проблемы — они их маскируют.
«Вы звоните в банк — поговорить с человеком невозможно. Вам отвечает электронный робот. Вы 10 минут пытаетесь объяснить проблему… Электронный болван вас посылает. Если у вас чуть-чуть сложная проблема — пробиться невозможно».
А теперь представим: вся страна переведена на такие системы. Граждане не могут дозвониться, не могут попасть в учреждение, не могут получить справку. А статистика? Статистика будет «отличной» — ведь электронные болваны сами себе будут давать хорошую оценку.
«Все будут счастливы, всё замечательно, и госуправление — на очень высоком уровне. Только это будет иллюзия».
«Искусственный интеллект — глючная машина без ответственности»
ИИ — новая святыня цифровой эпохи. Его встраивают везде: в медицину, юриспруденцию, безопасность. Но Касперская, как практик, знающий, как работают нейросети изнутри, говорит прямо:
«Искусственный интеллект, основанный на глубоких нейронных сетях, — это система, которая имеет ложноположительное и ложноотрицательное срабатывание. Это значит — она глючная по определению».
Она объясняет: невозможно одновременно убрать все ошибки. Уменьшите ложные срабатывания — вырастут пропуски. И наоборот. Это не недостаток конкретной модели — это фундаментальное свойство ИИ.
«Мы занимаемся системой ИИ в защите от утечек… Мы всё время балансируем. Чуть опустили здесь — поднялось там. Ноль и ноль получить нельзя. Никогда».
А значит, внедрять ИИ в ответственные сферы — безответственно.
«Врачи ошибаются? Да. Но врач несёт ответственность. А тут — электронный болван? Кому вы предъявите? Разработчик скажет: “Я не знаю, как она решила — это чёрный ящик”».
Именно проблема «чёрного ящика» — главный табу в дискуссиях об ИИ. Её игнорируют, хотя она остаётся нерешённой десятилетиями.
«Каждый год мы собираемся и говорим: “Давайте поговорим о рисках ИИ”. И каждый год — та же проблема. Она не решена. Опять не решена. И опять не решена».
«Дипфейки уже здесь — и они опаснее бомбы»
Если ИИ — это внутренняя угроза, то дипфейки — внешнее оружие массового обмана.
«Дипфейки сейчас такого уровня, что они вообще неотличимы. Завтра мошенники будут с лицом Собянина, голосом Собянина убеждать нас передать деньги… И чё?»
Законы о борьбе с мошенничеством не спасут: технологии опережают регуляторику на годы. Люди уже попадаются на такие фейки. А в условиях войны дипфейки могут использоваться для дестабилизации, паники, подрыва доверия к власти.
«Многие люди поймались. Да. И это только начало».
Что делать? Три столпа разумной цифровизации
Касперская не предлагает отказаться от цифры. Она предлагает делать её осознанно. Вот её ключевые рекомендации:
1. Бумага — не враг, а страховка
«Когда мы что-то цифровизуем, мы обязательно должны иметь дубль в бумаге. Прямо обязательно».
Она считает, что полный отказ от бумажных носителей — преступление против государственной устойчивости.
«Если мы не будем говорить такими терминами, то мы переведём всё в цифру — и когда нас накроет, мы окажемся безрукими и слепыми. Поэтому: отказ от бумаги — это измена».
Безопасность — не надстройка, а фундамент
Цифровизация должна проектироваться с учётом угроз с самого начала.
«При создании любой цифровизованной системы должны сразу учитываться риски… Должна быть анализирована модель угроз… И если это идёт вместе с системой защиты — тогда да».
Иначе получается «зоопарк», который потом невозможно защитить.
«Вы цифровизовались, потом приходите: “Защитите!” — А как? Ваш зоопарк — вы его наслесарили. Всё надо выкинуть и начать с нуля».
Не верить хайпу — ждать зрелости
Касперская призывает вспомнить кривую Гартнера — цикл, через который проходят все технологии: пик завышенных ожиданий → яма разочарования → плато продуктивности.
«ИИ — это синусоида. 60 лет этой технологии… То взлетает, то падает. Сейчас — чат GPT, все в восторге. Но уже видно, что производительность пошла вниз».
Она напоминает историю с блокчейном:
«Мы вписали блокчейн во все госпрограммы. Выделили 2 миллиарда. Потом директор Air Freight говорит: “Наталья Ивановна, подогните компании!” — “В чём проблема?” — “Никто не пришёл. Никто не знает, как это использовать”».
Поэтому — осторожность.
«Прежде чем вписывать ИИ во все-все-все, давайте критически переосмыслим это и подождём реальных технологий, а не сказок от фантастов».
«У нас нет щита — у нас дыры на небе»
Касперская завершает своё выступление жёсткой, но необходимой правдой:
«Вы сказали про щит. Нет у нас щита, коллеги. У нас дыры сплошные на небе».
Это не пессимизм. Это призыв к трезвости. Мы не можем остановить цифровизацию — да и не должны. Но мы обязаны встроить в неё тормоза, резервы, дубли и ответственность.
Без этого наш «цифровой прорыв» может обернуться цифровым коллапсом — в самый неподходящий момент.
«Не надо возлагать излишних надежд на искусственный интеллект. Давайте выдохнем. Подождём. И только потом строить будущее — настоящее, а не иллюзорное».
Голос разума в эпоху технологического фетишизма
Выступление Натальи Касперской — редкий пример профессиональной честности в мире, где технология стала новой религией. Она не боится называть вещи своими именами: цифровизация без безопасности — самообман; ИИ без ответственности — опасность; отказ от бумаги — слепота.
В условиях, когда даже в военное время мы продолжаем верить, что «всё можно перевести в онлайн», её слова звучат как будильник. Возможно, единственный, способный разбудить тех, кто строит цифровое государство на песке.
Потому что настоящее будущее — не то, где всё цифровое. А то, где всё — защищено.
Дословная расшифровка выступления Н.И.Касперской
— Какие ключевые задачи сегодня состоят сегодня перед системой кибербезопасности? Какие требуют регулирования в первую очередь, а где возможно уже нужно перейти от избыточного контроля к гибкости и адаптивности? Попросим рассказать Наталью Ивановну Касперскую, президента группы компаний InfoWatch.
— Да, Павел, спасибо большое.
Если вы позволите, я всё-таки не про то, какие надо регуляторные меры принимать. Потому что регуляторных мер у нас достаточно, у нас есть ФСБ, ФСБ, там Банк России по своей сфере компетенции. И регуляторы делают все нужное, что требуется. На мой взгляд, избыточного регулирования здесь не требуется. Если вы позволите, про цифровизацию немножко поговорю. Вот смотрите, у нас цифровизация — это очень модная тема и сейчас все должно идти в цифру. Все, значит, мы быстрее туда бежим, но надо понимать следующее ограничение. Первое, что вся цифровизация построена на данных. Данные.
Это что значит?
Это значит, что данные, которые мы отдаем в облака или в какие-то государственные системы, они подвержены рискам информационной безопасности. Риски информационной безопасности на 100% не купируются. Это просто невозможно. Эта задача не решена до сих пор. Вообще. Нет гарантированного избавления от рисков. Если вы поставите задачу гарантированное избавление от утечек, то такую задачу решить нельзя. Ну, по крайней мере, на сегодняшний момент человечество эту задачу не решил нигде. Ни в России, нигде.
То есть отдаём данные мы в цифру, мы получаем гарантированное снижение уязвимости.
Понятно, что уровень уязвимости оценивается по слабейшему звену.
В данном случае у нас слабейшим звеном становится вот эта цифровизация.
Второе.
Оборудование устройства у нас в основном иностранного производства до сих пор.
У всех у вас в карманах лежат смартфоны, посмотрите, чего производства, может быть кто-то поднимет руку в аудиторию, вдруг я там ошибаюсь, российского производства смартфонов, вот, пожалуйста, это иностранная платформа, соответственно, как они основаны, они основаны на облачных технологиях, это что значит, это значит что все наши данные, привет, принадлежат тому производителю, устройство которого лежит у вас в кармане, либо это производителя американского производства, либо это китайцы, которые уж точно не посмущаются понапихать туда закладок, какие они только могут.
Это значит, что все наши данные доступны.
Мы потом можем туда ставить все, что угодно, любые системы государственного управления, которые у нас такие славные, замечательные и хорошие, но вы понимаете, если это платформа, на платформенном уровне все эти данные могут быть перехвачены.
Все.
Как вы их собираетесь защищать и как мы создадим щит кибербезопасности страны?
Ответ, ну никак. С иностранных систем это невозможно. Невозможно, надо всю систему заменить сначала. А это полное импортозамещение. А полное импортозамещение пока, по крайней мере, в области железа, я не знаю, как это делается.
То есть у нас пока это не сделано.
Значит, третий момент. Смотрите, вот Максут Игоревич очень любит говорить, он так прям вначале вообще радикально говорил, что наши идеалы это чиновник-робот. То есть это чиновник, который будет управляться системами, и здесь на панели у нас тоже звучало, что это будет возможность для чиновников быть управляемыми электронными системами.
То есть, по сути, мы предлагаем электронный кнут для чиновников. Ну, во-первых, им это не нравится, по крайней мере региональным чиновникам точно, и снижает явно мотивацию.
А второе, ну вообще-то мы имеем непредсказуемые социальные риски, потому что что?
Проще сделать электронную систему.
Вот послушайте, что проще.
Проще послать нафиг, да?
Самое простое. Поэтому мы это видим по внедрению электронных помощников. Вот смотрите, электронные помощники сейчас внедрили везде. Вы сейчас звоните в банк, поговорить с человеком невозможно. Вам отвечает электронный робот. Вы пытаетесь, там, 10 минут пытаетесь электронному болвану что-то сказать. Электронный болван вас что делает? Вас он в первую очередь посылает. Если у вас какая-то чуть-чуть сложная проблема, то пробиться вот через этот искусственный интеллект — это просто невозможно. Теперь мы представим себе, что мы цифровизовали всё. Ну всё, до свидания, всё, нам уже люди, граждане никуда пробиваться не будут, при этом у нас статистика будет вот такая, отлично, у нас электронные болваны сами себе будут давать хорошую статистику, все будут счастливы, всё замечательно, и госуправление у нас будет на очень высоком уровне.
Значит, четвёртый момент. Цифровизация, вообще-то, говоря, коллеги, вы не задумали, что это электричество плюс интернет? Это два обязательных свойства, которые нужны. Вот я сейчас живу на даче, за городом, по южному направлению, значит, у нас интернет с вечера и до утра отключает каждый день, в принудительном порядке, по всем трём, значит, этим самым мобильным операторам. У нас три мобильных оператора, мы очень хитрые, мы поставили три, значит, антенны, все три отключают. Почему? Летят БПЛА на Москву, летят БПЛА массово, они ориентируются по вышкам, у них треангуляция, соответственно, для того, чтобы как-то сбить им навигацию, выключается интернет.
Иногда и днём выключается.
Ну, коллеги, ну давайте будем честны, мы идём в глобальной войне.
У нас… Какие?
У нас через некоторое время включение интернета, это будет нормой. Мы как в этом случае к государственному уголку будем стучаться, что мы там будем делать, куда мы там, какие данные мы там чего будем получать, что далеко ходить. Вот сегодня мы шли на завтрак с Максутом Шадаевым, ходили сюда в ЦИПР, значит проходим, система не работает. Мы говорим, ну пустите, ну у нас завтрак с министром, ну вы что, система не работает. Они говорят, ждите. Значит, вот там люди, там собралась толпа. Я говорю, посмотрите, вот смотрите, у нас бумажная карточка, вот видите, вот здесь написана моя фамилия, я готова предъявить свой паспорт, чтобы вы сверили. Они говорят, нет, нам нужно в систему. Ну, слава богу, там один из десяти вот этих штук, в конце концов, заработал, нас по одному начали пускать, но это очень характерный пример, понимаете? Если мы будем полагаться на электронные системы, то мы рискуем оказаться, в момент отключения этих систем, мы рискуем оказаться безрукими, глухими и слепыми котятами, абсолютно. Это просто гигантский риск, который нельзя недооценивать. И еще хочу сказать по поводу искусственного интеллекта. Очень модно у нас сейчас встраивать искусственный интеллект. Это здорово, это классно, это очень молодежно. Но искусственный интеллект, основанный на глубоких нейронных сетях, надо понимать, что это система, которая имеет ложноположительное и ложноотрицательное срабатывание.
Это что значит?
Это значит, что она глючная по определению. При этом, если вы закрутите ложно-положительное срабатывание до нуля, например, то у вас тогда ложно-отрицательное подскочит.
И вы не сможете сделать…
Ну, мы занимаемся системой искусственного интеллекта, вот то, что мы делаем в защите от утечек.
Это, на самом деле, большая система распознавания.
Система распознавания, вот она так устроена, что у нее LPS-ы либо LOSS-ы вот эти.
И мы все время балансируем. Мы чуть-чуть здесь, значит, опустили, значит, у нас тут чуть-чуть поднялось. Мы потом и эти, значит, опустили, и эти поднялись, и вот мы все время балансируем. То есть она глючная по определению. Ноль и ноль получить там и там нельзя.
Нельзя.
Всё время будет глючить. Значит, мы должны понимать, что мы имеем дело с глючными системами. Поэтому предложение внедрить это в какие-то государственные системы с принятием решения ответственно на ответственных применениях, типа юридических документов, ну это просто, коллеги, ну это нельзя. Также нельзя внедрять эти системы, например, в медицинские решения по медицине. Нам говорят, ну врачи же тоже ошибаются?
Врачи тоже ошибаются?
Да, но врач при этом несет ответственность. А тут кто будет, электронный болван? Кому вы предъявите потом свои требования? А они скажут, ну это же разработчик. А разработчик скажет, а я-то что, я вот систему разработал, я ответственности не несу, это вообще черный ящик, она приняла решение, я не знаю как. Это, кстати, тоже надо учитывать, коллеги.
Почему мы не говорим никогда?
Говорят про искусственный интеллект, никогда не говорят про проблему черного ящика.
Ну, коллеги, вот мы из года в год, вот собирался там форма искусственного интеллекта на армии, и вот мы из года в год садимся и начинаем.
Давайте поговорим про риски искусственного интеллекта.
Проблема чёрного ящика опять, и опять каждый год.
Она не решена, ой, и опять она не решена, и опять она не решена.
А сейчас ещё дипфейки у нас. Дипфейки. Друзья мои, что мы придумали сделать что-то с дипфейками, они сейчас такого уровня и такого качества, что они вообще неотличимы.
Ну вот приняли у нас закон по борьбе с мошенничеством. Завтра мошенники будут с лицом Собянина, голосом Собянина убеждать нам, передать куда-то деньги, куда он скажет. И чё?
Вот уже эти фейки, они выходят, ну, на такой высокий уровень. Многие люди поймались, да, на это. Да, и, значит, последний момент. Да, вот, всё, пять моментов.
Предложения теперь у меня. Значит, первое у меня предложение — это, когда мы что-то цифровизуем, мы обязательно должны иметь дубль в бумаге. Вот прям обязательно. То есть мы знаем, что да, это модно, красиво, молодежно, но вот эта вот задача, которой Алексей Сергеевич сказал, отказ от бумаги к 2003 году, 2030 году, это диверсия под государственное управление. Вот на мой взгляд, это просто государственная измена.
Вы извините, пожалуйста.
Ну потому что если мы не будем говорить такими терминами, то мы сейчас все переведем в цифру, и когда нас накроет, мы просто окажемся безрукими и слепыми. Поэтому давайте прямо. Отказ от бумаги Это измена. Второе. При внедрении, при создании любой цифровизованной системы по цифровизации должны сразу учитываться риски.
То есть, должна быть анализирована модель угроз, что будет, какие возможные векторы атаки, какие возможные внутренние уязвимости. Вот это должно быть проанализировано и составлена система защиты.
И если это идёт вместе с системой защиты, тогда да.
Потому что что мы имеем?
Мы имеем, что вот там цифровизовался кто-то, потом приходит к нам и говорит «защитите».
Мы говорим «а как защитить ваш вот этот зоопарк, который вы тут наслесарили?»
Я не знаю, как это защитить.
Это все надо выкинуть и начать все с нуля.
Вот давайте так не делать.
Давайте мы сразу будем думать, если цифровизация, то у нас вот здесь обязательно информационная безопасность.
Информационная безопасность равно цифровизация.
Должны быть близнецы-братья, как вот такая, ну, как бы единая система.
И никак иначе, потому что иначе наложенные средства информационной безопасности работают все хуже, хуже и хуже, и дальше они совсем не будут работать.
Они совсем не работают на искусственном интеллекте, они совсем не работают на дипфейках.
Просто давайте не строить иллюзий.
Вот вы сказали про щит, нет у нас щита, коллеги, но нет у нас щита, у нас дыры сплошные на небе.
Ну и последнее, значит, просто такой последний вывод, не надо возлагать излишних надежд на искусственный интеллект. И я тут предлагаю в этом смысле вспоминать кривую Гартнера, которая нам показывает, что сначала любая технология проходит пик хайпа, потом она падает в плато разочарований, точнее, в яму разочарований, если она оттуда выбирается, что не всегда, как, например, произошло там с 3D-телевидением, которое там и умерло, да?
Но если она выбирается, то она потом выходит на какое-то плато производительности.
Вот я искусственный интеллект, я поскольку изучаю и профессионально занимаюсь, то искусственный интеллект — это такая синусоида.
60 лет этой технологии искусственного интеллекта, она то, значит, взлетает у нас, в 60-х годах прошлого века все писатели-фантасты отписались, помним мы, там, Роберта Жекли и, там, Лема, других мы все читали, да, это не надо пересказывать, то есть эта тема была ещё тогда, вот, потом, значит, ничего не получилось из этого прекрасного андроида, всё это упало в плато разочарования, потом, значит, Диблю, который выиграл в шахматы, опять все кричат, ура, вот всё, это наше будущее, опять это упало. И вот так, сейчас вот у нас глубокие нейронные сети, потом у нас взлетел чат gpt, сейчас все, значит, восторгаются чат gpt, о, чат gpt, это прекрасно, но уже мы видим, что производительность пошла вниз, поэтому давайте вот сейчас немножечко выдохнем, вот оно выйдет на плато производительности, и тогда мы будем об этом разговаривать, а то мы, знаете, а то получится как с блокчейном.
Мы блокчейн вписали во все государственные программы.
Я вот лично участвовал тогда в программе цифровой экономики, и у нас блокчейн прям был вписан строчкой выделения денежных средств на технологии блокчейн.
Потом мы разговариваем, значит, с директором Air Freight, он мне говорит, Наталья Ивановна, можете мне подогнать какие-нибудь компании? Я говорю, в чем проблема?
Ну, у нас вот 2 миллиарда выделены на блокчейн, никто не пришел.
Но в госправедности…
Давайте мы, вот прежде чем мы впишем искусственный интеллект во все-все-все, значит, места мыслимые, мы все-таки, ну, немножечко так критически переосмыслим это и подождем, когда мы получим реальные технологии, а не, значит, нереалистичные сказки от и фантастов.
Спасибо.
