Alan Mislove是美国东北大学的计算机科学教授，他花了数年时间研究影响我们日常生活的算法是如何工作的：从航班价格和广告到信用评分。他的专业知识使他在白宫工作了一年半，在那里他帮助制定了关于这一主题的新立法。在任职期间，他观察到单位部门急于了解人工智能将如何影响他们的运营。44岁的Mislove也促成了拜登总统关于人工智能的行政命令，当唐纳德·特朗普上任时，这可能会面临风险。
这位出生于新奥尔良的研究人员最近访问了马德里，在今年由IMDEA networks和卡洛斯三世大学组织的互联网测量会议（IMC）上发表了讲话。IMC是全球最大的网络、流量和安全会议之一。问题。一个算法会如此重要，以至于影响民主的未来吗？回答。当然，这可能是关键。有许多人没有从主流媒体上获得新闻。
在许多情况下，像X或TikTok这样的平台是人们访问信息的方式，而且有这么多可用内容，你需要算法来决定你要读什么。在政治中，倾听双方的意见以了解他们的论点是至关重要的，但这并不经常是算法想要做的。它们针对参与度进行了优化，让你在平台上停留更长时间。实现这一目标的最佳方式是向您展示更多您感兴趣的内容，而不是您可能不感兴趣的属性，但这在您做出政治决策时可能对您有用。Q.算法能改变观点吗？
A.这是一个有趣的问题。我不认为我们真的知道答案。二三十年前，有一种大多数人都能消化的媒体。因此，在被普遍接受的问题上有一种共同点。如今，情况已不再如此。问：令人惊讶的是，你多年来一直在研究这个问题，却没有答案。A.有些社会学家正在研究直接影响，因为这主要集中在人类身上，而我对此研究不多，因为我专注于算法。这些系统变化很快。我们研究了从电子商务到拼车应用程序再到广告的所有内容。
真正理解其中一个系统的工作原理需要几个月或几年的时间。当我们设计一个实验来回答其中一个问题时，系统已经发生了变化。例如，X（以前的推特）发生了巨大的变化。问：不知道算法是如何影响我们的，这令人担忧吗？A.的确，准确理解算法如何影响我们的生活变得越来越困难。很多时候，人们甚至没有意识到，在你与之交互的系统背后有推荐算法和其他排名算法。
我在白宫的时候，我们研究的一个关键点是确定单位在使用人工智能时应该遵循的做法。其中一个要点是透明度：当算法对人们做出可能对他们产生负面影响的决定时，通知他们，并让他们有权上诉。问：这是针对公共系统中的算法，但用户知道社交网络是由算法组织的。。。A.大多数人都知道，但他们没有意识到他们收集了多少数据。例如，你手机上的应用程序会收集大量关于你的信息。
人们没有意识到这些算法中有多少数据，也没有意识到在提出这些算法以优化他们向你展示的内容时，投入了多少精力、金钱和资源。问：这些公司的目标是赚钱。如果他们也改变了社会，这只是一个意想不到的后果吗？A.我无法谈论他们的动机，但是的，这些公司的目标是让你最大化。世界上一些最大的公司处理着大量的数据，对我们在国内或全球的说话和思考方式产生了令人难以置信的影响。很容易想象这会如何失控。问：
美国单位是否正试图出于这些原因禁止TikTok？A.禁止TikTok有很多动机。人们越来越认识到这些系统非常强大。他们有能力以多种方式影响人们。例如，我看到一张在X上流传的图表，声称该平台推荐更多右翼内容。即使这是真的，也可能是因为这类人在推特上更活跃，或者可能是因为算法实际上在推荐它。我不知道这两者中哪一个是正确的，我可以设计一个实验来研究这一点。但有许多潜在的解释。
仅仅因为你看到了差异，并不意味着这是算法的错。问：当人们已经在问X对特朗普在美国大选中获胜的影响时，很难等待实验。。。A.我们以前有过这样的案例，我们确信，但后来又不确定。例如，10年前，当我们研究航班上的价格歧视时，有时人们会说，“我搜索了一个航班，其他人搜索了同一航班，但价格不同！”我们开始设计为期一年的实验并控制变量，我们发现只有在非常狭窄的情况下才是如此。大多数时候，发生的事情只是随机的。
问：这一切都是巧合吗？A.也有一些例外。我们发现，在某些应用程序中，如果你在移动设备或台式机上，它会发生变化。在其他情况下，这取决于他们认为你在哪个国家：即使是同一航班，如果我在美国或西班牙购买，他们可能会公布不同的票价。航空公司多年来一直在这样做。有一种自然的倾向，每次你看到差异时，都会想，“哦，一个算法在欺骗我”，这有时是真的，但大多数时候，事实并非如此。
这不是真正的歧视，他们只是在尝试不同的事情。问：有些人还怀疑他们的手机，因为他们收到了关于他们刚刚大声说出来的事情的广告。。。A.我想说有点确认偏见。你只会注意到它发生的时候，而不是它没有发生的时候。那天你对伴侣说的可能还有一千件事没有任何效果。我的一些同事做了一项研究，因为人们担心Alexa或手机上的应用程序是否在听你说话或录音。他们用移动应用程序进行了一项研究。
他们发现了做其他可怕事情的应用程序，但没有发现秘密记录你的应用程序。有时会有以家庭为基础的目标。数据代理会注意到你和那个人住在一起，他们会以各种方式将这些个人资料联系起来。所以在某些情况下，你的伴侣可能会搜索一些东西，突然间你开始收到广告。但我认为，这可能是解释，也可能只是随机性，你注意到了一个巧合。从科学上讲，我们必须拿出一个实验来证明这是系统性的。问：个性化算法会成为一个更大的领域吗？
A.多年来，它只会越来越普遍。更多的系统被个性化，仅仅是因为有更多的数据可用。任何时候，当你遇到大量内容，超过某人可以消费的情况时，你都需要某种算法来说，“这是与你相关的内容。”这就是个性化。这些算法只可能在我们的日常生活中起到中介作用。问：你对未来五年是更害怕还是更有希望？A.如果你五年前问我，我会说人们不知道发生了什么，我会更悲观。现在，我觉得人们越来越意识到这些系统中涉及了多少算法。
这是公众舆论中的一件事。乐观的答案是，你看到单位真的在努力解决这些问题，这让我希望，在五年或十年内，我们将找到一种平衡的方法。悲观的答案是，这些系统发展如此之快，企业如此强大，单位将难以跟上。