你好，这里是我的第42篇 newsletter。前一阵子去听了一个主题是 Symposium: Generative AI, Free Speech & Public Discourse 的讲座。讲座是持续一整天的，分几个不同的子主题。来自Stanford, UICI, Harvard 等高校的学者会分享他们在这个领域的研究与见解。因为那天有课所以没有听全，非要说最大的收获嘛 ..... 那天发的免费午饭真的特别好吃（手动狗头），我随便拿了一个盒子打开之后发现是分量超级大的三文鱼沙拉，酱汁也非常美味。
其实这么讲也不全是开玩笑，感觉每次去听这些 AI 主题讲座总是去之前兴致勃勃，听的时候却云里雾里。由于对 AI 相关的专业术语还不熟练，接触到这些专业名词的“编码”时我自己很难在脑海中快速形成“解码”，所以凭我的水平只能了解到大意，很难get到他们研究中细节中的新意，而大意的概念之前也听过几遍了，因此每次都有点遗憾大量的信息还是被漏掉了。
💡 一些观点的碎片
🎈Generate by human or AI ?
- 不少研究想训练模型去识别一个东西到底是人生成的还是AI生成的，并且已经初具成效。尽管准确率已经有90%以上，但仍不能说是让人满意的结果。尤其是当这种判别将被用于一些严肃场景的时候，冤枉好人的代价总是很高的——我们什么时候才能得到那种 1-in-a-million error 的准确率呢？这让我联想到上学期被助教说用 chatGPT生成作业的经历，确实只要有一个 false positive 对于当事人来说都是一种伤害。
- 目前是有一种用 watermark 去解决此类问题的技术，大致原理是检测不同词语的前后关系以及出现频率，如果符合某种特定的概率分布，那么就很有可能是AI生成的（如果理解错了请指正）。但这种方式也有明显的局限性，例如有人用 AI 生成内容后再用自己的话进行同义句转换，检测模型就无法识别了，还是没有办法达到 “让学生进行独立思考” 或者 “保证内容的原创性” 的目的。
🎈Feedback loops can amplify biases
- 我们说 AI 生成的内容是存在 bias 的，那么这种 bias 究竟是倾向于什么方向呢？研究表明 AI生成的观点更符合（一个更加准确的词是 align with）高收入水平和高教育水平的人群，可以理解为 AI 反应的更多是精英阶层的观念——从它讲话的这种面面俱到、圆滑得体的方式可见一斑 —— 而这样可能会导致非精英群体、少数群体的声音被忽略。并且由于 AI 是不断用用户选出来的优质结果进一步训练的，将会导致这种bias更加根深蒂固。过去数据中的 bias 或许无法清除，防止这种正反馈的形成也是重要的解决思路。
🎈AI & trust
- 关于AI & trust 的讲座主讲人是一位Havard的教授，满头银发，穿着非常合身的休闲正装，带着黑色的贝雷帽，看上去像是艺术家一样。他的一些观点还挺有意思的，例如他提到，我们在社会生活中经历的 trust 从 interpersonal trust 进化到了 social trust。之前人们出门在外是信任朋友熟人，而现在主要是信任这个社会系统的运作。举个例子，我们选择坐飞机并且相信它会把我们安全送达，其实不是在信任机长这个人（毕竟也不知道是谁），而是信任这个航空公司会很好地运作、会保证飞机处于优良状态、会选择合适的人来开飞机、会有靠谱的应急措施。而他对于如何构建可信任AI的看法是，和经济一样，主要靠市场竞争（各个公司自己去管控），但也需要一定程度的政府监管。
💡 场外 Small talk
会场之外，中午吃午餐的时候有俩人坐我对面聊上了。其中一个人说是谷歌的程序员，看上去30岁左右，头顶却很光亮，我愿意相信这种完全的光亮是出于一种对发型的选择而不是其他原因；另一个是位女士，吃三明治的时候很优雅，可能是她不吃碳水，把面包打开之后用叉子叉里面的菜吃，并且评价其为 decent lunch。她应该是一位媒体人，她说她非常关心言论自由以及媒体上的信息是否真实可靠之类的话题。她提到AI 确实可能会生成一些有导向性的言论，所以她想的一个解决方案是，在AI生成内容的时候，标注出来什么是“事实”，什么是“观点”。因为人们如果知道这个只是AI自己的“观点”，就会有意识地有所保留地接受这些内容而不是 take it all。不过到底什么是事实什么是观点其实很多时候人类自己都分不清，更别说标记数据然后去训练AI了，二者的边界本来也不那么清晰的。
除此之外她表达了自己对纽约的热爱，说觉得自己再也无法适应生活在其他城市，并且她说 You even don't need a lot of money to live here… 对此我不敢苟同。不过我认为她的语境是，有很多像这样的科普讲座或艺术展等优质的资源是不需要很多钱就可以获得的，或者说这些 world-class 的资源相比于它的价格来说简直物超所值，这点倒是勉强可以同意一下。
由于这是一个四人桌子，虽然它很宽，我也还是就坐在他们正对面，所以感觉低头吃饭一言不发多少还是有点奇怪；但是确实又觉得自己无法插话，我既不是训练模型的也对于美国的 public speech 不甚了解，我看他们也丝毫没有想让我加入讨论的意思，所以就在听的时候时不时地点点头表示认同。直到这位女士开始说 You even don't need a lot of money to live here，我不再继续点头。不一会就吃完了饭准备先去上下午的课。
其实在我快吃完的时候我旁边的座位还来了一位女士，前面这位媒体人从谈话中暂时地转移了一下注意力，热情地微笑着说“ welcome！”。因为我是在这位媒体人之前落座的，所以无法检验她有没有可能也对我说“ welcome！”。不过在说完 welcome 之后这位新来的女士没有加入他们的谈话，也是在默默吃午餐，前面两位也没有抛话题给她的意思。
这种小事就会让我挺好奇歪果仁与陌生人的交流方式：可以随时对陌生人表示高唤起的热情也可以迅速收回热情一秒回到刚才的事情上（我发现很多服务人员也是这样的），可以随意地主动发起话题和周围人聊起来也可以接受周围的人一言不发，可以没聊几句直接上升到价值情感层面聊自己对城市的热爱......
作为一个谨慎内敛文化根植于心的人我其实有点在意这种向陌生人展示自己的行为，会在意和别人产生连接之后如何处理这种连接，所以会觉得太多社交给我一种莫名的负担。偶尔会庸人自扰地觉得即使很小的牵动也可能像蝴蝶扇动翅膀一样，在某种程度上以难以察觉的力度轻微地改变了人的走向。
这么一看感觉像是「夏目友人帐」看多了一样😂 夏目玲子不断地开启和妖怪的比赛然后把它们的名字记在友人帐上，让他们成为随叫随到的忠臣，丝毫不在意这种牵绊对妖怪和自己意味着什么，只是不断开始新的挑战——她不是反派也没利用这种能力做什么坏事，大概只是喜欢这种战胜妖怪的感觉；而无比温柔善良的夏目贵志接过友人帐之后一直在把名字还给妖怪们，看上去是斩断了连接，但其实是建立了更深的连接。
我觉得动漫想要呈现的感觉是，这种连接其实是一种温柔的负担，他完全可以不管，但还是出于某种信念觉得有必要让妖怪的生活好过一点。有时候会被这种真诚感动，但在感觉自己已经挺疲惫尤其是心累的时候反而不太想看这种作品了，会觉得日式文艺的细腻实在是太累，还是自我一点更好。
于是甚至觉得仅从这一点来看夏目玲子有点像是欧美文化的女孩...... 因为她与别人（基本上是妖怪）交互的方式不是连接，而是碰撞。撞到之后可以弹开，可以不管不顾地继续前进，没有牵绊。对应到日常生活中，这种感觉就像是自己处在一个游戏场景，身边的大家都是玩家，每个人身上都携带着几十几百个故事。如果你愿意多调动一下自己的情绪、主动发起一次对话或者交互，就好比在游戏中“友好地撞上去”，没准就能收获几个从对方那里随机掉落的故事盒子，当然有时候别人也会主动和你“相撞”。
如果这样想的话就会觉得其实没太多好顾虑的。Just enjoy the game。
最后分享一个神奇的雪人。
好啦，这一期就先讲这么多。
感谢你的阅读，I will see you soon～
