Случаи, когда сотрудники прогоняли корпоративную информацию через нейросети для получения рабочего результата, уже не так редки. По словам экспертов, они просто не учитывали, что искусственный интеллект обязательно использует любую информацию для улучшения своей работы, в том числе, и секретную.
Евгений Царев:
Это обучаемые системы на тех данных, которые предоставляют в том числе и пользователи. В этом ее логика. Соответственно, если вы какие-то данные ей предоставляете, то 100% они будут использованы для того, чтобы улучшать систему в дальнейшем. По большому счету она не собирает данные, она их использует для того, чтобы улучшить свои последующие ответы. Это вопрос на самом деле к сотрудникам. Либо они не понимают принципа машинного обучения, либо они делали это в какой-то степени неосознанно. Это вот то же самое, как мы обучаем ребенка: мы даем ему какой-то объем информации, глупо думать, что он не будет воспроизводить наши собственные слова. То есть если мы ругаемся дома, то и он будет ругаться, если мы говорим вежливо, и он будет говорить вежливо. Мы, допустим, у себя в компании внесли в соответствующий документ фразу о том, что передавать данные ИИ нельзя.
Источник: BFM.ru
