В новосибирском Минцифры перечислили опасности внедрения ИИ
Фото: Олег Харсеев / «Коммерсантъ»
Главными рисками внедрения технологий искусственного интеллекта являются возможные ошибки алгоритмов, утечки или неправомерное использование данных, предвзятость результатов, распространение недостоверной информации и дипфейков, а также чрезмерная зависимость от внешних технологических решений. Об этом РБК Новосибирск сообщили в пресс-службе министерства цифрового развития и связи региона.
«Для государственного сектора принципиально важно, чтобы искусственный интеллект оставался инструментом поддержки специалиста, а не заменял человека при принятии значимых решений. Поэтому внедрение таких технологий должно сопровождаться контролем со стороны должностных лиц, соблюдением требований информационной безопасности и персональных данных, а также оценкой реального эффекта для граждан, бизнеса и органов власти», — рассказали в министерстве.
И.о. руководителя комитета по информационным технологиям Новосибирского регионального отделения «Опоры России» Полина Сазонова согласна с перечисленными опасностями внедрения ИИ.
«Дополнительно обозначу, что для бизнеса также очень вероятны организационные риски, когда сотрудники неконтролируемо используют различные ИИ-инструменты с персональных аккаунтов, тем самым формируя риски безопасности и утечки компетенций», — отметила Сазонова.
Она добавила, что при внедрении технологий на основе искусственного интеллекта возрастают экономические риски, связанные со стоимостью использования ИИ-инструментов. Также эксперт видит опасность в формировании зависимости от бизнеса и органов власти, особенно, подчеркнула она, при бесконтрольном внедрении. Еще одна опасность — это зависимость от зарубежных технологий.
«Появляются риски в области управления персоналом. Часто происходит трансформация мышления сотрудников в сторону переноса ответственности на ИИ-инструменты, рассеивается внимание, усиливается общий стресс», — рассказала Сазонова.
В конце апреля губернатор Новосибирской области Андрей Травников заявил, что регион намерен выстроить стратегию внедрения и развития искусственного интеллекта; выработать единые подходы для защиты данных, обеспечения безопасности; создать открытое информационное пространство для взаимодействия и укрепления сотрудничества.
«Новосибирская область, обладая мощным научно-образовательным, инновационным и кадровым потенциалом, должна стать одним из национальных лидеров цифровой трансформации», — отметил губернатор.
В пресс-службе министерства цифрового развития Новосибирской области сообщили, что стратегия внедрения искусственного интеллекта в регионе формируется.
Эволюционное внедрение ИИ
«Мы ориентируемся на разрабатываемый национальный план внедрения ИИ в отрасли экономики. В мае была представлена его структура и предполагаемые показатели эффективности внедрения. Они затрагивают все отрасли экономики», — рассказали в Минцифры.
Технологии искусственного интеллекта внедряют в разные направления деятельности человека в регионе. Внедрение происходит эволюционно, расширяя спектр новых сервисов.
«Система голосового самообслуживания включает в себя новые ведомства, интеллектуальная транспортная система постепенно расширяет границы покрытия. На этот год мы для себя поставили задачу по интеграции нативных технологий ИИ в государственное управление: в систему электронного документооборота, работу с обращениями граждан, разработку нормативно-правовых актов, — сообщили в Минцифры. — В регионе уже доступны ИИ-помощники для госслужащих. Практика использования помогла выявить точки развития и совершенствования. Желаемый результат: повышение эффективности государственного управления, снижение издержек граждан при получении услуг, рост доходов бюджета и, как итог, увеличение удовлетворенности жителей региона».
В министерстве подчеркнули, что большая часть разработок создается в пилотном формате, чтобы оценить их потенциальную целесообразность. Их финансируют из регионального бюджета. Власти еще не обладают детальной оценкой стоимости внедрения технологий искусственного интеллекта в конкретные отрасли.
По мнению Сазоновой, органы муниципальной и государственной власти готовы к внедрению ИИ по-разному. Она выделила администрацию Новосибирска и региона, отметив, что часть их сотрудников обладают опытом использования ИИ-технологий, который можно масштабировать.
«Потенциал внедрения ИИ-инструментов в органы власти очень большой, и работа предстоит значительная. И специалистов всегда будет не хватать. Важно фокусироваться на повышении компетенций текущих специалистов, проводить обучения, мозговые штурмы, искать решения в условиях неопределенности. На мой взгляд, сейчас тот момент, когда качество кадров важнее количества», — добавила Сазонова.