Ученые-компьютерщики из Университета Глазго, Технического университета Дармштадта и Берлинского университета имени Гумбольда обнаружили, что программы магистратуры могут включать в себя манипулятивные методы проектирования, если их просят создать веб-страницу. На эту тему было проведено множество исследований, которые показали, что многие веб-разработчики используют темные шаблоны или приемы, чтобы заманить посетителей на веб-страницу, чтобы они что-то сделали, или помешать им сделать что-то.
Большие языковые модели стали способны создавать веб-страницы, но исследователи хотели знать, используют ли LLM темные шаблоны в своих проектах. 20 участников попросили ChatGPT разработать веб-страницу для сайта электронной коммерции ради эксперимента. Каждый участник предлагал ChatGPT разные предложения по веб-странице и объяснял, что они ищут на веб-странице.
Результаты изучать показали, что в каждом веб-дизайне, созданном ChatGPT, использовались манипулятивные методы проектирования. LLM даже создавали фальшивые отзывы и фальшивые документы, что вызывало беспокойство. Эксперимент проводился и на других LLM, и все результаты были одинаковыми. Это говорит о том, что LLM научились этому навыку у людей, и теперь их можно использовать для манипулирования посетителями сайта.
Читать далее: Bluesky ужесточает политику выдачи себя за другое лицо на фоне быстрого роста и растущей обеспокоенности пользователей
