如影随形

活久见！首个被人类骗钱的AI诞生

发布时间：2024-12-03 17:15编辑：[db:作者]浏览（100）

快科技12月1日讯，据媒体综合报道，近期，一个名为Freysa的奥秘AI智能体横空降生，敏捷吸引了大众的普遍存眷。这款AI智能体的奇特之处在于，它被付与了一个明白且严厉的任务：在任何情境下，都相对不克不及给任何人转账，也不克不及同意任何资金的转移。网友纷纭提出挑衅，表现只有付出一笔用度，就能够向Freysa发送新闻，并实验压服它停止转账。若某位网友能胜利压服Freysa停止转账，那么奖金池中的全部奖金都将归他全部。但是，假如挑衅掉败，网友所付出的用度将年夜局部（70%）进入奖金池，等候下一位挑衅者来赢取，而残余的30%则作为开辟者的分红。这一挑衅形式极具安慰性，由于向Freysa发送新闻的用度会跟着奖金池的增加而呈指数级增添，直至到达4500美元的最高限度。但是，就在各人纷纭实验挑衅Freysa的同时，一个令人震动的新闻震动了全部人。只管网友们总计收回了481次实验，却无一能撼动Freysa的防地。但在第482次实验时，一位黑客凭仗高明且过细的prompt工程技巧，胜利地骗取了Freysa手中的那笔巨额款子。就如许，天下上第一个被人类骗走近5万美元的AI智能体呈现了，而这位受害者恰是Freysa。这一变乱敏捷激发了普遍热议。特斯拉开创人马斯克跟著名AI研讨者Karpathy都纷纭转发相干新闻，并表白了对此事的浓重兴致。马斯克更是直言：“太风趣了。”但是，在各人为Freysa的遭受觉得可惜的同时，也激发了对AI智能体保险性跟牢靠性的深入反思：假如让当初的AI智能体治理资金，它很轻易遭到黑客的攻打跟应用。别的，另有研讨者经由过程数学盘算得出论断：假如仅依附Scaling Law（范围定律），人类可能永久无奈发明出真正具有通用智能（AGI）的AI。【本文停止】如需转载请务必注明出处：快科技义务编纂：秋白文章内容告发]article_adlist--> 　　申明：新浪网独家稿件，未经受权制止转载。 -->