В США люди стали находить способы поправить мнение чат-ботов о себе
Американские политики стали находить способы изменить мнение чат-ботов о себе, пишет The New York Times (NYT) со ссылкой на политиков и экспертов. В пример газета приводит Дастина Ллойда, кандидата от Демократической партии на праймериз в законодательное собрание штата Миссури. Ранее, если бы избиратели задавали вопросы о Ллойде чат-ботам ChatGPT от OpenAI или Gemini от Google, то получили бы лишь базовую информацию, не передающую его политических целей. Политик принял решение «подправить свое присутствие в интернете», опубликовав на своем сайте раздел вопросов и ответов о себе. Позднее, когда чат-боту задавали вопросы о Ллойде, тот выдавал эту информацию. Политик признался, что теперь пользуется этим инструментом ежедневно. NYT отмечает, что кандидаты всегда беспокоились о своей репутации среди избирателей. Теперь же они вынуждены беспокоиться и о том, что о них думает искусственный интеллект. Для этого даже была создана отдельная индустрия — оптимизация алгоритмов ответов (Answer Engine Optimization, AEO). Инструменты AEO обычно ограничивают переписыванием контента на сайте кандидата или внесением изменений в «Википедию». Однако, по мнению экспертов, кандидаты с хорошим финансированием могут попытаться опубликовать больше информации о себе в Сети и та будет повторяться чат-ботам. В то же время политики обеспокоены возможностью распространения фейков о них, которые чат-боты будут воспринимать как верные. Исследователи британского аналитического центра Demos выяснили, что многие ИИ придумывают кандидатов, фабрикуют обвинения в кумовстве или выдумывают финансовые скандалы. Некоторые чат-боты утверждали, что действующий депутат только баллотируется, а другие неверно излагали позиции кандидатов. Несмотря на это, избиратели все чаще обращаются за интересующими их политическими вопросами к чат-ботам. По данным компании Caucus AI, по меньшей мере 16 млн избирателей получили информацию о выборах от ИИ. В случае если кандидаты смогут систематически «подталкивать» чат-ботов к выдаче необходимым им ответам, эксперты опасаются, что третьи лица могут также попытаться манипулировать поисковыми запросами. «Субъекты, распространяющие дезинформацию, по определению первопроходцы и будут использовать все доступные им методы и технологии», — заявил Тим Чемберс из консалтинговой компании Dewey Square Group.