物联网

美媒:OpenAI删除了禁止其技术被用于军事用途的条款

时间:2010-12-5 17:23:32  作者:数据库   来源:物联网  查看:  评论:0
内容摘要:据美国调查新闻网站“拦截者”The Intercept)1月12日报道,美国知名人工智能企业、ChatGPT母公司OpenAI近日悄悄修改了其产品的使用条款,删除了禁止将OpenAI技术用于军事用途的

据美国调查新闻网站“拦截者”(The 美媒Intercept)1月12日报道,美国知名人工智能企业、删除术被ChatGPT母公司OpenAI近日悄悄修改了其产品的禁止军事使用条款,删除了禁止将OpenAI技术用于军事用途的其技条文  。

报道称,用于用途在今年1月10日之前,美媒OpenAI公司网站发布的删除术被使用条款曾明确规定 ,禁止将该公司的禁止军事AI模型应用于“很可能造成人员伤亡的用途” ,比如“武器研发”和“军事与战争” 。其技“军事”一词 ,用于用途极为明确地将美国国防部 、美媒美军、免费模板删除术被CIA等排除出了OpenAI的禁止军事用户范畴。

在上周的其技修改后,OpenAI在“通用政策”条款中虽然也有“不要使用公司服务伤害自己或他人” ,用于用途并明确表示禁止“AI开发或操纵武器”,但军事这一关键限制性词汇 ,却从政策中消失了 。

对此,OpenAI公司发言人尼克·菲利克斯(Niko Felix)在一份回复“拦截者”网站的邮件中表示,调整使用条款是为了设立一套易于记忆和应用的通用原则 ,“像‘不伤害他人’这样的规则很宽泛且容易理解,高防服务器可以适用于很多语境之下。我们还特别列举了武器作为例子 。”

但菲利克斯拒绝说明“禁止伤害他人”的表述是否包括所有军事用途 。他仅在邮件中表示 :“包括军方在内 ,任何将我们的技术用于研发或使用武器 、伤害他人或破坏财产 、在未经授权的情况下用于破坏任何服务或系统安全的行为,都是不被允许的 。”

美国网络安全公司Trails of Bits的模板下载机器学习和自主系统安全专家海蒂·赫拉夫(Heidy Khlaaf)认为,OpenAI的新政策可能是想在确保法律合规之上提供更多的灵活性  ,“发展武器以及从事与军事有关的活动在不同程度上是合法的,这项调整对AI安全的潜在影响非常大。”

但赫拉夫警告说,鉴于大语言模型中普遍存在“幻觉”和“偏见”的问题,总体上缺乏足够的准确性,云计算将其应用于军事与战争很可能会加剧平民伤亡 。

一些专家还表示 ,OpenAI似乎在悄悄弱化其反对军事应用的立场 。他们对“拦截者”网站指出 ,OpenAI的主要投资者、美国科技巨头微软公司就是美国军方的主要供应商之一。

美国AI研究机构“AI Now”总经理 、前联邦贸易委员会AI政策分析师莎拉·迈尔斯·韦斯特(Sarah Myers West)直言 ,新使用条款的措辞含糊不清,这引发了外界对于OpenAI会如何执行新条款的疑问 。服务器租用

美国军方领导层此前已对AI技术表现出兴趣 ,美国国防部副部长凯瑟琳·希克斯去年11月曾表示 ,AI技术是“以作战人员为中心的全面创新方法的关键组成部分” 。但希克斯也承认 ,当前的AI技术还不够成熟,“不符合我们要求的AI道德原则” 。

“拦截者”网站称,尽管OpenAI提供的产品还无法被用于操控武器,但美国军方已经开始将其技术应用于协助编写代码 、处理武器采购订单和情报分析等工作,香港云服务器“尽管OpenAI工具没有被直接用于杀人 ,它们已经被用于协助这样的工作。”

参考链接:https://news.china.com/socialgd/10000169/20240115/46082732_1.html

copyright © 2025 powered by 物联网技术前瞻  滇ICP备2023000592号-33sitemap