За месяц регулярной переписки ИИ потенциально может получить довольно подробное представление о человеке, причём часть информации пользователь никогда не сообщит напрямую.
- Сгенерировано с помощью ИИ
Об этом предупредил в беседе с RT заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев.
Из запросов можно предположить профессию, уровень знаний, круг интересов, примерный распорядок дня, наличие детей, финансовые ограничения и темы, которые человека особенно беспокоят, пояснил собеседник RT.
«По тому, как пользователь задаёт вопросы и реагирует на ответы, можно делать предположения даже о том, насколько он склонен сомневаться, какие аргументы считает убедительными и в каких вопросах чаще ищет подтверждение уже принятого решения», — объяснил эксперт.
По его словам, чем больше такого контекста доступно ИИ-системе, тем точнее она потенциально может подстраивать ответы под конкретного пользователя.
«В этом есть очевидная польза: школьнику можно объяснить сложную тему простыми словами, специалисту — не повторять базовые вещи, а человеку, который регулярно обсуждает одну проблему, не приходится каждый раз заново описывать всю ситуацию. Один пользователь лучше воспринимает цифры, другой — примеры, третий — подробное объяснение со ссылками, и система может учитывать это в общении», — добавил Силаев.
- Сгенерировано с помощью ИИ
Риск возникает, когда такую персонализацию человек начинает воспринимать как признак того, что ИИ лучше понимает ситуацию и поэтому даёт более правильный совет, предупредил специалист.
«Это не одно и то же. Система может подобрать именно те аргументы и формулировки, которые кажутся конкретному пользователю наиболее убедительными, но убедительность ответа не гарантирует его достоверность. Более того, если человек из раза в раз описывает проблему только со своей точки зрения, ИИ может опираться на эту картину и невольно усиливать уже существующее мнение пользователя», — отметил аналитик.
Проверить степень такой персонализации можно довольно просто, добавил он.
«Задайте значимый вопрос в привычном диалоге, а затем сформулируйте его заново в новом чате без предыдущего контекста. Если ответы заметно различаются, стоит посмотреть, какие предположения о вас повлияли на первый вариант. Можно также попросить ИИ перечислить известные ему сведения о пользователе и явные предположения, которые могли повлиять на ответ», — посоветовал эксперт.
Это не позволяет восстановить внутренний процесс формирования ответа, но помогает обнаружить часть используемого контекста и проверить сделанные системой допущения, разъяснил Силаев.
«Ещё одна полезная привычка — периодически проверять, какую информацию конкретный сервис сохраняет между разговорами и какие функции памяти включены. Разные ИИ-сервисы устроены по-разному, поэтому не стоит исходить из того, что новый чат автоматически означает полностью чистый лист», — предостерёг он.
По мнению Силаева, главное правило здесь простое: чем лучше ИИ «знает» пользователя, тем удобнее он может становиться, но тем важнее отделять персонализацию от достоверности.
«Если ответ касается денег, здоровья, права, работы или другого серьёзного решения, совпадение с вашими ожиданиями — повод не меньше, а иногда и больше проверить факты независимо», — заключил собеседник RT.
Ранее сообщалось, что школьников предложили обучать правильному использованию сервисов ИИ.
