(资料图片)
“人工智能正以快速的步伐扩展着人类的想象力。想象一下，未来十年，人工通用智能系统（简称agi）几乎在每一个领域都超过了人类的专业知识，该系统最终可能超过所有大型公司的集体生产力。这将提高每一个人的生活水平，但同时，我们必须共同管理其可能带来的风险。”
6月10日，在2023北京智源大会-ai安全与对齐论坛上，openai联合创始人sam altman发表了主题演讲。
sam altman指出，agi是一项关乎全球的技术，不计后果地开发和部署所带来的事故成本将影响到每一个人。
通过国际合作和协调agi 治理非常必要。他认为有两个关键领域：首先，在技术研发过程中建立平等、统一的国际规范和标准，以便所有国家都能使用agi；其次，通过国际合作，以可验证的方式，建立全球对日益强大的人工智能系统安全开发的信任体系。
做到这两点并不容易，sam altman表示，国际社会应投入大量而持续的关注，而最具建设性的一步是，国际科技界应该促进在安全领域的技术进步方面增加透明度和知识共享机制。当aci安全研究人员发现紧急问题后，应及时分享他们的见解，以实现利益最大化。“我们需要思考的是，如何鼓励这种制度，同时尊重保护知识产权，如果能够实现这一点，新世界的大门将为我们打开，使我们保持更加广泛的合作。”
sam altman介绍了openai在安全研究上的投入、促进和引导。openai正在推进对齐研究，让agi与人类价值观保持一致并遵循人类意图。“我们通过来自人类反馈的强化学习来训练模型，使其成为一个有用而安全的助手。从chatgpt推出到gpt-4完成，我们一共花了8个月的时间，目前来看进展良好，gpt-4在对齐性上比以前的所有模型都要高。但对于未来更先进的ai系统而言，对齐性仍然是一个悬而未决的问题，我认为需要新的技术方法，并加强治理和监管，我们想象一下，未来的 agi 系统或许具有 10 万行二进制代码，人类监管人员不太可能发现这样的模型是否在做一些邪恶的事情。正因此，我们还投资了许多新的研究方向，希望可以实现扩展和突破。”
sam altman认为，使用人工智能来管理人工智能也许是一个好的思路，例如，人类可以训练一个模型来帮助自己发现其他模型输出中的缺陷。另外，关于可解释性的研究，sam altman相信，机器学习技术的进步可以进一步提高人类产生解释的能力。
“我们的最终目标是，培训人工智能系统来帮助对齐研究。获得 agi 带来的非凡好处，同时降低风险，是我们这个时代的开创性挑战之一。我们已经看到了中国、美国以及其他世界各地的研究人员的巨大潜力，并期待共同努力实现同一个目标，若能做到这一点，未来通过agi解决世界难题并提高人类福祉，将指日可待。”sam altman表示。
（文章来源：21世纪经济报道）
标签：
- 环球热推荐：openai联合创始人sam altman：agi安全需建立平等、统一的国际规范和标准
- 乌克兰水电公司：卡霍夫卡水库水量流失已超三分之一
- 【见·闻】食品通胀居高不下 英国政府和超市打起“拉锯战”_当前消息
- 天天报道:泰国面临3年来最严重的登革热疫情
- 琼中县教育局原党委书记、局长敖林涉嫌严重违纪违法接受纪律审查和监察调查
- 每日资讯：瑞典卫生用品公司爱适瑞将出售俄罗斯业务，已获俄当局批准、预计二季度完成
- 每日热门：加密货币突发下跌！狗狗币跌超10%，一天内27亿元蒸发16万人爆仓
- 环球快资讯丨上海航运交易所：本周运输市场表现疲软 多数航线运价回落
- 张斌：不必担心降息引发汇率贬值和资本过度净流出 全球播报
- 共话中国经济新机遇丨芬兰商会报告：中国经济增长为芬企提供新机遇 环球即时看
- 【环球财经】加拿大活跃石油钻机数量显著增加 国际油价9日下跌-当前关注
- 加密货币突发下跌！比特币跌近5%，狗狗币跌超10%！全网近24小时，16万人爆仓，27亿元蒸发
- 环球滚动:普京：俄军依然缺乏先进武器 但国防工业正迅速发展
- 中国—匈牙利企业贸易对接会在布达佩斯举行
- 当前看点!韩国：2025年起将ai引入小中高课程，到2028年实现全面覆盖
- 美国能源部：已向五家公司授予合同，以收购300万桶原油补充战略石油储备 世界消息
- 《海南自由贸易港知识产权保护条例》：知产保护零距离|天天微头条
- 海南省政府召开专题会议 研究降低物流成本及物流监管相关工作
- 实时焦点：《海南自由贸易港优化营商环境条例》：优化营商软环境
- “文化和自然遗产日”主题宣传活动落地海南
- 海南省首个海外知识产权纠纷应对指导中心设立
- 隔夜美股涨了，特斯拉追平这一纪录！欧洲天然气期货暴涨逾20%，什么情况？
- 海关总署公布香港cepa项下经修订的原产地标准
- 中韩面板攻防战升级_观热点
- 隔夜外盘：美股三大指数小幅收涨 特斯拉涨超4% 日线11连涨 环球观焦点
- 英国前首相约翰逊宣布辞去议员职务
- 纽约股市三大股指9日上涨
- 俄企计划在2026年前研制出可重复使用运载火箭用发动机|天天看热讯
- 加拿大5月就业人数减少1.73万人 9个月来首度下降|视点
- 百家跨国公司看中国｜访挪威海产局首席执行官christian chramer：对中国市场充满信心 我们在这里的投入将是长期的
- 走向贸易保护主义 英美签署“大西洋宣言”
- 全球热资讯！加拿大5月就业数据疲软
- 美股三大股指早盘涨跌不一 全球即时