达姆施塔特技术大学的一个计算机科学家团队与格拉斯哥大学的一位同事和柏林Humbold大学的另一位同事合作，通过他们进行的实验发现了证据，当被要求构建网页时，LLM通常包括操纵性设计实践。该组织已将他们的研究发布在arXiv预印本服务器上。先前的研究表明，许多网络开发人员使用所谓的“暗模式”来操纵访问者在网站上做事情，或避免做其他事情。
一个例子是，将要求用户订阅或购买东西的按钮的颜色设置为明亮而诱人的颜色，而将结束订阅的按钮设置为深色甚至灰色。在这项新研究中，研究人员指出，LLM已经成熟到可以被提示设计网页的程度，他们想知道他们是否会在设计中使用这种做法。为了找到答案，他们进行了一项实验，要求20名研究参与者让ChatGPT设计一个可以作为电子商务网站的网页。每个人还被要求在告诉LLM他们在设计中想要什么时使用“中性”语言。
研究小组发现，LLM生成的每个网页都使用了深色图案作为其设计的一部分。例子包括紧急信息、操纵性突出显示和假文件。也许最令人担忧的是LLM产生的虚假评论。此外，他们指出，只有一个例子向用户发出关于网站上任何事情的警告。研究人员用其他几种LLM重复了这项实验，并发现了类似的结果。
研究人员得出结论，他们的发现突显了人类生成的网页在多大程度上使用黑暗模式来操纵其网站的访问者——毕竟，LLM是从他们那里学到技能的。他们认为，这一发现表明这种做法已经正常化。他们建议用户要求对网页进行监管，以防止将来发生此类操纵。©2024科学X网络