除了为开发者打造聊天机器人工具意外，程丽丽还领导微软自家的聊天机器人孵化工作。该项目背后的理念是，通过关注这些聊天机器人如何与真人进行互动，该公司或许能够学到很多人机互动方面的东西。这些实验的结果至少可以说好坏参半。还记得微软的聊天机器人Tay吧?它于2016年3月登陆Twitter、Kik和GroupMe;在24小时内，它便吸收了Twitter上面的种族歧视言论，以至于说出“希特勒是对的”之类的话，微软随即将其撤下。6个月后，程丽丽在Kik和Messenger上推出了新的聊天机器人——名为Zo的、活泼的PG级聊天机器人。

　　问Zo她怎么看希特勒，她会回答说，“我真的不想去那里。”

　　问她年纪多大，她会说，“我22岁左右吧。”

　　问她谁是她最好的朋友，她会说，“我太受欢迎了，说不清啊。”

　　Zo是微软中国版聊天机器人小冰的西方版本。小冰扮演一位17岁的女生，自2014年上线以来已经吸引了4000万的定期用户。她在中国可以说是网红。(她的日本同伴Rinna也非常有名。)有四分之一的用户曾向小冰示爱。

　　去年春天，该聊天机器人曾用假名定期发表诗文。沈向洋为此感到非常兴奋。“没有人知道是谁发表的。在该国，人们以为是一位年轻的女诗人在发表一些很有趣的诗文。”几周之后，该聊天机器人的真实身份被揭晓，令人颇为惊喜。

　　语言的亲切感具有文化特异性，程丽丽一直在研究如何给西方受众改造该聊天机器人的那种对话风格。数据显示，到目前为止，北美地区的年轻人对于聊天机器人伙伴的喜爱似乎一点都不亚于中国的年轻人。他们与Zo的对话时间平均达到10个小时。在不断地给青春期用户提供恋爱建议以及给烦恼不断的家长报以同情的过程中，Zo变得更加能说会道，更加自如——这种智能将会出现在Cortana和微软的聊天机器人工具当中。

　　伦理问题

　　用户愿意花上十个小时跟Zo聊天，说明微软开发了一款成功的产品。但就对人类的价值意义而言，这并不意味着它就是一款好产品。这一由AI驱动的世界带来了一系列新的伦理道德困境。举例来说，你是小冰的设计师，你知道北京有位用户在凌晨1点钟还在跟小冰聊天。你知道他明天要上班，但他不想去睡觉。那你会从凌晨两点开始对小冰实施宵禁吗(即直接将它关掉)?又或者从凌晨三点开始?

　　正当微软想要成为AI研究与产品领域极少数的几位领先者之一，它已经在提倡让AI造福社会上赢得自己的位置。5月，纳德拉向开发者发表主旨演讲。在这种场合，CEO通常会大力鼓吹自家公司的最新进展，传达出积极的信号。而这一次，纳德拉却发出措辞强硬的警告：技术人员必须要承担起开发符合伦理道德的软件的责任。“我是说，你想想，乔治·奥威尔(George Orwell)在1984年预言技术会被用来监控、控制和发号施令;奥尔德斯·赫胥黎(Aldous Huxley)则设想，我们可能会迷失自我，变得毫无目标。这两种未来都不是我们想要的。”

　　为了帮助公司彻底地想清楚这些问题，微软成立了一个每个季度都会开会的内部伦理委员会。该委员会由工程师和业务负责人组成，致力于讨论AI和它的影响和用途方面的敏感议题。它的两位联合主席分别是微软的副法律顾问和负责微软亚洲以外所有地区的研究实验室的埃里克·霍维茨(Eric Horvitz)。很长一段时间以来，霍维茨一直都在AI伦理和安全事务上领头发生。在公司以外，他在组建人工智能合作组织(Partnership on AI)上扮演重要的角色，该联盟旨在为AI产品的透明度、问责制和安全性制定行业标准。霍维茨希望微软不仅仅是一家完成研究的公司。他希望微软研究院被认为是一个能够让你研究AI技术的社会影响的地方。

　　与此同时，Cortana首席设计师威廉姆斯正在制定针对AI的伦理设计指南，供微软内部使用。威廉姆斯极度信奉技术，她认为AI的真正魔力在于它将让我们变得更有人性。她谈到了很多关于如何将共情能力设计到微软开发的工具的东西。“我们在想着让人类觉得自己更强大了，且受到保护、支持、帮助和关爱，成为他们的世界的中心。”她说，“AI的职责是，放大社会最好的一面，放大人类最好的行为，而不是最坏的行为。”