На компанию Илона Маска OpenAI подали в суд за неправомерный сбор конфиденциальной информации в интернете, включая личные данные пользователей. Как сообщают СМИ, разработчики ИИ-бота ChatGPT используют личные данные миллионов людей. Эксперты утверждают, что во многих российских компаниях ChatGPT уже используется.
Евгений Царев:
В РФ до сих пор нет никакого регулирования защиты от подобных угроз. Пока есть только усилия групп энтузиастов и отдельных специалистов по определению угроз, связанных с ИИ, попытки классифицировать их и защититься от них. Единственный базовый вариант защиты, который предлагают всем, — это стараться не допускать утечек конфиденциальной информации и внимательно следить, какие данные вы отдаете чат-ботам.
Надо понимать, что главная опасность лежит в чрезмерном доверии к решениям нейронных сетей. Для защиты от взлома логики ИИ на сегодняшний день применяют различные промежуточные преобразования входных данных, способные распознать триггеры и проанализировать некорректную реакцию со стороны нейросети.
Источник: Известия
