"Не так здорово, как кажется": эксперты о внедрении ИИ в работу госорганов Казахстана

Эксперты считают, что внедрение искусственного интеллекта в работу госорганов без достаточной подготовки может привести к утечке личных данных и другим неудобствам, сообщает "31 канал".

Эксперты объяснили, что сейчас нет никаких ограничений по использованию искусственного интеллекта. Результаты его поиска могут быть неточными, данные - неверными, а загруженные в него файлы могут стать добычей конкурентов или хакеров.

"Сейчас главная проблема - это утечка информации, которая происходит колоссальным образом, и многие бизнесмены, чиновники в соседних странах, министры используют для подготовки докладов ChatGPT. Это не так здорово, как могло бы показаться", – считает эксперт по кибербезопасности Евгений Питолин.

Ранее в Казахстане создали концепцию развития искусственного интеллекта на ближайшие 5 лет. При цифровом регуляторе появился комитет по управлению ИИ. Эксперты говорят, алгоритмы его работы должны быть прозрачными для казахстанцев, чтобы люди точно знали, что происходит с их данными и как их защищают от утечки.

Для того, чтобы ИИ работал без вреда для безопасности данных, нужны обученные разработчики и операторы - его конечные пользователи. При этом важно проработать вопрос ограничения работы искусственного интеллекта и ответственности в случае, если что-то пойдет не так.

"На текущий момент в Казахстане законов касательно искусственного интеллекта нет, есть только концепция, разработанная недавно. Какие-то законопроекты существуют, но в публичном доступе мы пока не можем изучить ее. Вопрос разделения ответственности при использовании ИИ - это важный вопрос", – поделился эксперт Александр Пушкин.

По его словам, важно законодательно разграничить ответственность создателей и операторов искусственного интеллекта.

"Перенесем, например, на беспилотные автомобили или автомобили с автопилотом, которые используют искусственный интеллект. Ответственность в случае ДТП должны нести как разработчики ИИ, которые заложили туда функционал, так и оператор, водитель, который находится в этом автомобиле. Эту границу ответственности нужно в этом законе провести, и чтобы не было коллизий с другими законами", – добавил Пушкин.

Специалисты говорят, что к разработке законопроекта следует привлечь экспертов, которые имеют опыт работы с информационной безопасностью и большим объемом данных.

Ранее в Минцифры рассказали о посещении главного офиса компании NVIDIA в Сан-Франциско. Тогда сообщалось, что было достигнуто соглашение о запуске образовательных программ по искусственному интеллекту в учебных заведениях Казахстана в рамках программы Deep Learning Institute.

Кроме того, министр Жаслан Мадиев провел переговоры с Microsoft и Google в США, где обсуждались возможности применения искусственного интеллекта (AI) от Microsoft для улучшения государственных технологических сервисов (GovTech).

Ранее генеральный директор Центра поддержки цифрового правительства Рустем Бигари рассказал, какую работу госаппарата может на себя взять искусственный интеллект.

"В целом, в системе госслужбы порядка 30% работы являются процессными - и их можно заменить. И их в рамках трансформации можно заменить машинами: обработка писем, скоринговая передача и так далее", - заявил спикер.

В декабре 2023 года глава государства заявил, что будет лично курировать развитие искусственного интеллекта в Казахстане.

Недавно президент Токаев принял министра науки и высшего образования Саясата Нурбека, который отчитался о выполнении поручений президента по развитию искусственного интеллекта.

Добавим, что недавно созданный Комитет искусственного интеллекта и развития инноваций при МЦРИАП возглавил Гиззат Байтурсынов.