“事故”频发！AI龙头也栽在了AI手里 焦点短讯

5月24日下午开盘后，科大讯飞股价快速跳水，盘中一度跌超9%。截至收盘，科大讯飞收跌4.26%。

(资料图)

据了解，近日网上传出“科大讯飞被曝涉嫌大量采集用户隐私数据”的文章。随后，该文章被猜测是AI文档工具“文心一言”所生成。

对此，科大讯飞盘后在投资者互动平台表示，公司初步判断该段不实信息系某AI生成式软件生成。使用大模型编造虚假信息属于违法行为，将受到法律制裁。

科大讯飞：AI编造虚假信息已有刑事案例

科大讯飞在投资者互动平台上表示，公司初步判断该段不实信息系某AI生成式软件生成。对于恶意抹黑、捏造虚假信息，损害公司名誉权的机构或个人，公司会借助法律武器保护公司和投资者利益。

科大讯飞表示，公司高度重视企业信息安全及个人隐私信息保护，将信息安全管理作为公司发展的重要支撑战略之一，并建立了完善严格的信息安全和隐私保护体系。竭力保障公司信息及用户的安全权益。公司于2017 年通过ISO27001 信息安全管理体系认证，2020 年，又在此基础上通过了ISO27701 隐私安全体系认证。

此外，科大讯飞还提到，使用大模型编造虚假信息属于违法行为，将受到法律制裁。当前已有刑事案例。

据甘肃公安5月7日消息，甘肃公安侦破首例利用AI人工智能技术炮制虚假信息案。4月25日，甘肃省平凉市公安局崆峒分局网安大队对“今晨甘肃一火车撞上修路工人致9人死亡”的文章，初步判断为信息虚假不实。网安民警随即开展工作，发现共计21个百度账号均在同一时间段发布该文章。经查，涉案百度账号均为广东深圳某自媒体公司所有，公司法人代表洪某弟有重大作案嫌疑。

5月5日，专案民警在广东东莞嫌疑人住处对其使用的电脑及百家号进行取证。经审讯，犯罪嫌疑人洪某弟通过微信好友获知网络赚取流量变现方法，并购买大量“百家号”。同时使用“易撰”网页版，在全网搜索近几年社会热点新闻，为规避百家号查重功能，洪某弟通过近期火爆的ChatGPT人工智能软件将搜集到的新闻要素修改编辑后，使用“海豹科技”软件上传至其购买的百家号上非法获利。

洪某弟利用现代科技手段编造虚假信息，并散布在互联网上，被大量传播浏览，其行为已涉嫌寻衅滋事罪。

旧闻被重新翻出

有投资者当天在互动平台上提问科大讯飞：“5月24日下午，市场出现多个关于科大讯飞的传言，有外媒援引知情人士的话称，美国正在考虑是否将科大讯飞、美亚柏科等加入实体名单。请公司尽快核实传言，以正视听。”

对此，科大讯飞在盘后回应称：该条信息属于对2019年5月23日相关信息的复制粘贴。科大讯飞已于2019年10月被列入实体清单，科大讯飞拥有全球领先的人工智能核心技术，这些核心技术全部来自于科大讯飞的自主研发，拥有自主知识产权。被列入实体清单后，科大讯飞已迅速切换到以国产供应链为主的非美供应链体系，继续为客户提供优质的产品和服务，业务运营未受到重大影响。

证券时报记者查询发现，“科大讯飞于2019年10月被列入实体清单”确实是当时的一篇旧闻。

中国互联网协会：警惕！“AI换脸”新骗局

中国互联网协会5月24日发文称，警惕 “AI换脸”新骗局。今年以来，ChatGPT和GPT-4等技术的应用，成为了信息科技领域的热点，引起公众对AI技术的广泛关注和热情。但伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。

据平安包头微信公众号，5月8日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，警银联动成功紧急止付涉嫌电信诈骗资金330多万元。据悉，4月20日11时40分左右，福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他，两人经过短暂聊天后，好友告诉郭先生，自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，所以想要借用郭先生公司的账户走一下账。基于视频聊天信任的前提下，郭先生没有核实钱是否到账，于11时49分先后分两笔把430万元给对方打了过去。钱款转账后，郭先生给好友微信发了一条消息，称事情已经办妥。但让他没想到的是，好友回过来的消息竟然是一个问号。郭先生拨打好友电话，对方说没有这回事，他这才意识到竟然遇上了“高端”骗局，对方通过智能AI换脸技术，佯装成好友对他实施了诈骗。

接到福建省福州市公安局刑侦支队的外协请求，包头市公安局电信网络犯罪侦查局立即启动“包头市警银联动绿色查询机制”，在银行的全力协助下，将该诈骗账户内的336.84万元被骗资金成功拦截。同时，向福州市公安局警方提供了剩余款项93.16万元资金流出信息，为深入突破该案剩余资金查找提供了突破方向。

中国互联网协会称，做好个人信息安全第一责任人。加强个人信息保护意识，防止信息泄露：不轻易提供人脸、指纹等个人生物信息给他人；不要轻易透露自己的身份证、银行卡、验证码等信息；不要贪图方便把身份证、银行卡照片等直接共同存放于手机内。

该协会称，对于不常用的APP，建议卸载前注销个人账号。若APP不提供个人账号注销方式，或为注销账号设置各类障碍的，请至12321.cn投诉。

“在AI时代，文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景，要通过回拨对方手机号等额外通信方式核实确认，不要仅凭单一沟通渠道未经核实就直接转账汇款！无论对方是谁！” 中国互联网协会称。

（来源：证券时报）

关键词：