Elon Musk和生命学院的未来追求关于致命AI技术的警告

Elon Musk的名字引起了很多关注，特别是当他对AI发表意见时，这是一个经历天文增长的领域。但他不是唯一有担心AI未来的人，特别是与武器相关。

最近，一系列新闻网点出版了关于Spacex Ceo Elon Musk的头条新闻，敦促联合国对“杀手机器人”采取行动。虽然这是一种预期消息的精神，但实际发生的是略有不同 - 肯定没有将麝香作为唯一的演员。

这生命研究所的未来（FLI）是技术专家和其他着名人物的集团，致力于确保人类对抗存在威胁的未来的安全性。发生了什么事是，该组织发表了一份声明，支持联合国关于某些常规武器（UNCCCW）的公约，该公约最近成立了一批政府专家（GGE），以审查和建议致命自治武器系统的危险和使用。此提案是典型的解决特定问题的方法，这些方法有可能影响世界的潜力，这是联合国委员会内部集中组织的创建。

有问题的陈述，在研究所网站上的一封信形式发布，由许多高调成员签署，包括麝香，物理学斯蒂芬霍金和演员摩根弗里曼。

这封信参考了8月21日应该发生的会议，标志着GGE将讨论该主题第一次讨论这一主题，并赞扬任命裁军和区域安全专家，Amandeep Singh Gill，作为本集团大使。然而，似乎这次会议现在将于11月召开。

Elon Musk的努力包括彻底改变火箭技术，电动汽车和太阳能。照片由Dan Taylor使用礼貌海森伯格媒体。

虽然麝香的标题是警告世界关于杀手机器人的吸引力，但误用技术的现实仍然是真实的，即使它在现实中并不像耸人听闻。人类使用技术对抗其他人类是一项符合和普遍的威胁，核武器竞争是一个历史例子和持续威胁。

2015年初，FLI也发表了一个公开的信鼓励国际科技界，确保人工智能仍然用于人类的利益。从那时起，超过8,000人签了这封信。

今天的核裁军，明天的杀手机器人

有争议的论据，自主武器可以拯救生命，限制伤亡，并加速可能否则可能延长的冲突的结果。这些论点的一部分是这种武器的自动性质将消除人为错误和判断的主张，以及消除人类（至少在侵略者的一侧，至少）造成伤害的方式。

然而，在道德，政治和军事领域内，用于指导战争的理论之一就是“jus.贝鲁姆iustum.“，拉丁语”只是战争理论“。在广泛的意义上，这是一种哲学理论，旨在认为战争性质以及我们如何证明参与其中的方式。关于自治武器的这些谈话带来了一部分这个理论，涵盖一旦开始，据称是“贝洛·贝洛”（字面意思，在战争中的“正义”）的情况下进行了战争。这个术语由许多组织使用，包括像这样的人道主义群体红十字国际委员会。

这种理念通常断言，应该按比例地争夺战争，应该被煽动出来的军事必要性。它还被认为是断言，战斗人员不应该瞄准非战斗人员（如平民），应公平地对待战俘，不应该进行邪恶（也称为“SE中的”恶魔“）。

这是在核，生物和化学武器的讨论中提出的，这是最终位的Malum。它也是许多涉及FLI的专家涉及到自主致命武器的时候涉及。

日内瓦公约是在贝洛支持jus的条约的一个重要例子。图片礼貌瑞士联邦档案馆。

虽然技术和技术进步一直是在战争中用于一个优势（思考罗马挑战或弹射器），但关注的是，目前的技术已经可以使战争大规模破坏性。使这种武器自主能够通过向我们的自动化系统投降决策来加剧这些问题 - 并特别违反贝洛的jus的比例方面。

根据IFL的陈述，“致命的自治武器威胁要成为战争中的第三次革命。曾经制定的情况下，他们将允许武装冲突比以往任何时候的规模更大，而不是人类可以理解的速度。”

FLI还提到了一些关于自主致命武器的一些主要担忧特别是：这种武器可以用来恐吓，可能是以不合需要的方式被黑客攻击，并且可以以更快的时间尺度使用。

无人机技术的作用

高级技术已经在许多国家的武术努力中使用规律性。虽然“无人机”这个词可能会引起肢数和其他消费式设备，但军事无人机也指的是无人驾驶的军用航空车（无人机），这些车辆（无人机）远程进行军事代表团。

目前，只有美国拥有能够进行此类运营的长范围无人机技术;其他几个国家拥有更多有限的无人机技术，具有更多即时的范围。在标题的出版物中“无人机扩散的后果：将事实与小说分开“提交人（宾夕法尼亚大学，康奈尔和德克萨斯州的学者）认为，在其他国家有相似的能力之前，这将是几年。

MQ-9收割机无人机。照片由美国空军照片/员工SGT。Brian Ferguson通过美国空军摄影档案馆

然而，这种无人机技术仍然由“飞行员”运作，即使它来自距离也是如此。无人机不会对谁或以何时进行全自动的决定。它们仍然存在于范围内，以及有多少有效载荷（又名武器）它们可以携带。

另一方面，无人机和无人机技术也经常在人道主义努力中使用，跟踪海上的移民，提供医学，观察和学习风暴，以及成像海岸线，帮助科学家确定侵蚀的东西。

特别是无人机，由于他们的远程控制性质，有关如何在战争中使用的许多问题。

支持原因的其他组织

除了生命研究所的未来，还有一些其他组织还积极竞选，以促进人类的和平和有益的技术。这运动阻止杀手机器人是一家国际组织，该组织从世界各地提供各种非政府组织，公司和个人专家，以倡导致命，自治技术。

像加拿大的Clearpath机器人这样的公司有同意支持竞选团体的使命确保和平利用机器人。类似地到Fli，这项运动来阻止杀手机器人发布了关于取消8月21日的第一次会议的提出的陈述，表达了他们的失望。

这国际机器人军备控制委员会是一个非营利性，也倡导防止机器人技术的致命用途。他们的成员包括机器人，工程，国际关系，国际安全和军备控制的专家。

技术有机会对人类产生积极影响，似乎有很多人在努力确保仍然如此。这些组织的努力如何影响监管机构的决定。与此同时，AI行业的巨大增长仍然在全球数以千计的数百个领域继续追求利用神经网络的新颖性和效率。