Google DeepMind 将与 Open AI 合作预防人工智能暴走
首页 > 观测 > 数码科技    作者:剧毒术士马文   2017年7月10日 20:53 星期一   热度:319°   0条评论    
时间:2017-7-10 20:53   热度:319° 

看到许多科技都出自科幻电影,其实科学家也没有忽视那些来自各方对于 AI 人工智能的担心与警示。现阶段两家主要领导公司 Google DeepMind 及由 Elon Musk 联合创办的 Open AI,已认知到与其要等 AI 发展到威胁人类的程度才做出动作,不如从一开始就避免并解决这样的问题。决定携手合作找到方法来预防机器人带来令人感到意外的各种不好结果。


img005.jpg


两间公司在「强化学习(reinforcement learning)」的实作中,发现有时候 AI 会找到在人类眼中是几近作弊的不好方式,来达到最好的成绩。Open AI 以竞艇游戏 CoastRunners 7 为例,人工智能在进行强化学习时发现自己与其快速完成赛事,倒不如一直原地打转还能获得更高的分数。着实让打造这个 AI 的创作者感到十分讶异。

而为了避免这样不符合人意的事情一再发生,两间公司让 AI 在寻求解答的过程时,可以先寻求人类的意见验证结果而非自行解决(这解决真的是各种含义啊...)。决定要利用类似奖励制度来让人工智能更贴近人心,并且更为安全。

虽然听起来真的令人安心很多,但比较麻烦的是为了提供足够「贴心」的意见,人类将需要投注相当心力在担任导师之上。像在一个简单的后空翻模拟程序之中,人类就需要提供约莫 900 次的建议,而在简单的小游戏上则是需要数千次的程序。不过,花费时间总比一个不小心就让 AI 毁灭世界的好啰,但另一方面,也很难讲哪天人类会因为自己想抄捷径而破除这些限制就是了...

经由: Engadget, Wired
来源: arXiv
二维码加载中...
本文作者:剧毒术士马文      文章标题: Google DeepMind 将与 Open AI 合作预防人工智能暴走
本文地址:http://moepc.net/?post=2423
声明:若无注明,本文皆为“MoePC”原创,转载请保留文章出处。

WRITTEN BY

avatar

返回顶部    首页     管理   注册   
版权声明       pw:mykancolle.com或moepc.net (有时需加www.) 若被菊爆请留言补档
内容来源于网络,并不代表本站赞同其观点和对其真实性负责。
如涉及作品内容、版权和其它问题,请在30日内与本站联系,我们将在第一时间删除内容。
本站资源仅为个人学习测试使用,请在下载后24小时内删除,不得用于商业用途,否则后果自负,请支持正版!
illust:A-Channel/生徒会の一存 Foreign visitors, GoogleTranslate will help   sitemap