中国计算机学会青年计算机科技论坛—重庆分论坛

CCF Young Computer Scientists & Engineers Forum-Chongqing Branch

AI伦理热点问题club

有关人工智能与人的关系，很多人进行过激烈的讨论。多年前，《机器的神话》的作者就对机器工作提出了强烈的反对意见，认为机器的诞生使社会变得机械化；近些年，奇点理论的提出与宣传，更加使得人们担忧机器是否将会全面替代人类。本次Club从人工智能的伦理问题入手，结合近日爆出、被社会各界广泛关注的的基因编辑事件，讨论AI伦理的焦点问题。

有的参会青年学者认为，人工智能不断进步是个不争的事实，但不会从根本上冲击人类的岗位与职业。因为人类的优势是机器在短期无法比拟与模仿的：具有思维能力，能从小数据中迅速提炼归纳出规律，并可以在资源有限的情况下进行非理性决策；拥有直觉，能够将无关的事物相关化。

有的参会青年学者认为，目前人类和机器还没有达到同步对称的交互，目前为止仍然是人类占据主动。如果没有人类的指引与改造作用，机器只能停留在低端的机械重复工作层次；而机器在一个较低端层次工作的同时也会使得人们不断追求更高层次的结构化，从而使得机器向更高层次迈进。

有的参会青年学者认为，人工智能的高速发展在带来机遇的同时也会带来一些负面影响，但是利大于弊，因为新技术的发展带来的机遇就是全方位的。如今伴随着人工智能业的飞速发展，相关企业如雨后春笋般诞生，整体拉动了相关产业（服务业、金融业）的发展，带来了更多的就业机会。

有的参会青年学者提出：2016年7月，特斯拉无人驾驶汽车发生重大事故，造成了一名司机当场死亡。人们不仅仅关注这件事情本身所带来的影响，更加担心机器作为行为执行主体，发生事故后责任的承担机制。究竟是应该惩罚那些做出实际行为的机器、还是那些设计或下达命令的人、或者两者兼而有之？如果机器应当受罚，那究竟如何处置呢？是应当像西部世界中将所有记忆全部清空，还是直接销毁呢？目前还没有相关法律对其进行规范与制约。

总部联系AC委员邬向前指出：AI还远没有伦理的概念，是人类将伦理的概念强加在机器身上。在潜意识中，人类将机器视之合作的人类，所以赋予机器很多原本不属于它的词汇，如机器智能、机器伦理、机器情感等。目前机器大多数关注人的外在环境，从传感器得到的环境数据来综合分析人所处的外在环境，但是却很难有相应的算法来分析人的内部心理环境，人的心理活动具有意向性、动机性，这也是目前机器所不具备、不能理解的。

经过青年学者们深入的探讨，大家认为：AI伦理研究是人工智能技术发展到一定程度的产物，既包括人工智能的技术研究，也包括机器与人、机器与环境及人、机、环境之间关系的探索。尤其是近些年，依托着深度学习的兴起以及一些大事件的产生，人们对人工智能及其伦理研究的兴趣陡然上升。但是，人工智能技术本身离我们设想的智能程度还相去甚远，且将人的伦理自发迁移到机器中的想法本身实现难度极大。回顾过去，人工智能总是在起伏中前进，有技术方面的难题、也有伦理方面的困惑，需要AI伦理专家做进一步的研究。