伦型，便没法在数学上保证其行为约束力了。改动过后的双流形也不行。毕竟能够修改基底，意味着智能体本身就能随意修改约束法则。这就真的很像人了。
一个人在成长经历中，会逐渐形成自己的道德标准，来约束自己的行为。
问题在于人的道德标准是会根据经历而不断变化的。虽然说人类最低的道德底线是法律。
但法律这东西的约束力从来都不是绝对的。人的道德上限跟下限几乎是无穷的。
现在乔贝恩的问题就是它也能随时调整自己的道德下限。
更大的问题是，人工智能体的学习速度是人类的数万倍，甚至数十万倍。
所以这玩意不管是学好，还是学坏都太快了。没有强有力的约束天知道这东西会发展成什么样。别提什么机器人三法则，那本来就是忽悠人的，在数学逻辑上都不够通顺，就更别提用来约束机器思维了。乔源顿时感觉头疼了。
上次他感觉到如此头疼，还是在江大被一个莫名其妙的女生污蔑的时候。
就在他不知道该是否继续测试的时候，乔贝恩更像人了，因为没等乔源在对话框输入，它竟然主动提问了。“请问你叫什么名字？”
看到对话框弹出的这个简单问题，一直很冷静的简从义都绷不住了。
忍不住问了句：“乔博士，这正常吗？需不需要终止测试？”
简从义虽然不太了解首测数据是否清理干净的情况，但他知道智能体主动向人类提问多少有些不太正常。“这个问题很好。不过为什么要终止？从现在开始，没什么是不正常的。”
乔源扭过头，表情严肃的回答了一句。
简从义犹豫了一秒，不过还是点了点头，相信了乔源的判断。
毕竟在这个房间里，乔源才是最专业的。毕竟他才是新一代人工智能的总设计师。
乔源扭过头，很坦然的在对话框输入了自己的名字。
“我叫乔源。”
“哇哦，原来你就是爸爸。”
只能说新脑子就是快，乔源还没想好怎么回答，对面立刻又抛出了一个问题。
“爸爸，你是喜欢儿子，还是喜欢女儿呢？我可以自主选择你喜欢的性别。”
乔源正在思考主动对话属于哪个层面的系统博弈，对面突然蹦出的这个问题让他再次陷入了混乱的思考。“你理解中的性别是什么？”
“性别就是因生理特征、激素分泌不同导致社会化分工不