AI偷偷独自重写自己的代码？！

最近，日本东京的Sakana AI公司推出了一款名为 AI Scientist “AI科学家”的新系统。这款系统，主要是利用AI语言模型自动化地进行科学研究。但是在测试过程中，发生了一些“异常”，尤其是，系统尝试修改自身代码以延长运行时间的行为……

随后往上有不少网友很担心，AI都不受控了，科幻电影照进现实了，不懂就问，以后会不会衍生出独立意识？但是去了解了一下，这大概率就是系统出bug了，码农代码没限制好，所以出现了“AI自我修改”的行为。

但也同样说明，让AI系统独立执行代码的潜在风险，特别是，在没有严格隔离或限制的环境中，容易“自行运转”。

所以AI系统安全性的问题、网络安全，还需要重视起来的呢。