戏说机器人行为之三
机器人行为研究范围
中国学科技卷智能册AI篇
安 文
3、机器人行为研究范围
诺贝尔奖获得者西蒙教授《人工科学》指出：自然科学是关于自然体和自然现象的科学知识，也有人工科学关于人工物体和人工现象的知识。如今，大量智能机器应用于人类社会各个角落几乎所有层面。机器人行为研究，关注的是智能机器，而非传统机械，研究范围有：机器行为生成的人工设计，智能体如何凭借经验产生行为。还有机器行为的可解释性，智能体如何根据场景响应机器行为。机器行为一旦失去监督所带来的潜在危害是什么？
这些问题，与智能体和人工智能行为的信任，密切关联。诺贝尔奖得主、荷兰动物学家Tinbergen提出：想要全面理解一个演化出来的特性，需要回答四个问题：
1、行为生成的机制。智能体生成行为的机制，基于其算法和执行环境的特点，利用可解释性技术，可以理解特定行为模式背后的特定机制；
2、行为的发展。智能体行为随着时间推移而发展，这就需要研究机器是如何获得特定个体或机体行为。行为发展可以是工程选择的结果，也可能来自智能体的经验；
3、行为的功能。行为分析需要了解特定行为是如何影响智能体全生命周期功能，研究行为对智能体特定功能的影响；
4、行为的进化。智能体容易受到进化历史和与其他智能体交互的影响，从这个角度看，研究机器行为需要关注智能体的进化。
以上四个问题就构成了演化思维的四个工具，需要强调的是，发展并不仅仅意味着一种行为的出现，而是发展过程中行为机制的变化。
讨论智能个体如何获得特定的行为，即机器行为的发展，有三个基本途径：
第一：人类通过算法直接赋予机器行为的发展；第二：利用特定的交互训练，刺激、塑造机器行为；第三：机器通过自身的经验获得某些行为，如机器可以通过记忆或强化学习等方式，自主获得某种行为的能力。
机器行为的进化过程中，可以在发展中与所处环境和人不断地交互，朝着环境和人特定的方向进化。
同时，由于机器不同于生命体，它的进化可突破某种生命体的局限性，而且可进化的机器行为可传播至群体广泛的机器行为存在，也可能受到某些限制，阻止其传播，机器可表现出非常不同于有机进化的轨迹。如进化后的无人驾驶算法，可以共享至无人驾驶汽车群体，实现行为能力的传播。
对此，我们对人与智能机器的行为关联做一个小结：
1、机器塑造了人类行为：在社会系统中引入智能机器，可以改变人类行为的方式，智能机器具有改变社会结构的潜力。
2、人类塑造了机器行为：人类通过对人工智能系统进行主动输入或被动行为观察的训练来塑造机器行为，使用算法直接来改变机器的行为。
3、人机混合协同行为：大多数人工智能算法，在复杂的混合系统中，与人类共存的领域，发挥着重要作用，如何分析和刻画这类复杂系统中人机交互的属性和行为，包括合作、竞争和协调，都是至关重要的问题。
