來源：財通社
【資料圖】
作者：吳瑞馨
先進技術(shù)，似乎總是最先被應(yīng)用在違法犯罪上。
前段時間，AI詐騙在全國爆發(fā)引起全網(wǎng)熱議。今天，AI板塊千億市值的龍頭公司科大訊飛也中了招，險些跌停！
1
千億AI大白馬
被生成式AI造謠
今天午間開盤后，千億AI大白馬科大訊飛突然股價跳水，盤中一度暴跌9.46%，逼近跌停，直接干懵了不少股民。
究竟咋回事？科大訊飛怎么了？？
財通社小編挨個翻遍微博、雪球、股吧等平臺后，終于找到了原因：科大訊飛這波確實有點慘，鍋從天上來，都是小作文惹的禍。
在股價閃崩前，網(wǎng)上流傳著兩篇“科大訊飛出現(xiàn)重大風(fēng)險”的小作文。
一篇小作文說：
但之后就被證實是由2019年的一篇報道改編而來。
這一篇其實還算無關(guān)緊要，真正影響最大的是另一篇：“科大訊飛被曝涉嫌大量采集用戶隱私數(shù)據(jù)，并將其用于人工智能研究?！边@篇內(nèi)容在社交媒體上流傳甚廣，甚至還被大V發(fā)在社交媒體上。
不過，通過傳播內(nèi)容認(rèn)知全國重點實驗室推出的“AICG-X”驗證，這篇小作文內(nèi)容為機器生成。
科大訊飛股價閃崩后，券商也在第一時間辟謠。
國聯(lián)海外表示，科大訊飛今日流傳的兩篇小作文，均系謠言；興業(yè)計算機也對此辟謠稱，科大訊飛今日調(diào)整與基本面無關(guān)，由惡意輿情所致，純屬造謠，公司正積極處理。政策及產(chǎn)業(yè)地位雙受益AI龍頭，堅定看好！
此外，科大訊飛回應(yīng)，“股價下跌系某生成式AI寫作虛假小作文導(dǎo)致，謠傳風(fēng)險為不實消息?！?/p>
并在互動平臺上表示，使用大模型編造虛假信息屬于違法行為，將受到法律制裁。對于惡意抹黑、捏造虛假信息，損害我司名譽權(quán)的機構(gòu)或個人，公司會借助法律武器保護公司和投資者利益。
辟謠后，科大訊飛股價直線拉升，但相較上午，還是跌了不少。截止收盤，科大訊飛收跌4.26%。不僅如此，同花順、三六零、財富趨勢、寶蘭德、高偉達等AI概念股也受到影響跟跌。
2
AI技術(shù)被非法濫用
有人被騙430萬，有人被偷臉
這一事件發(fā)生后，有網(wǎng)友在網(wǎng)上感嘆：原來AI還可以造謠；還有網(wǎng)友調(diào)侃，沒想到AI的第一戰(zhàn)，來的如此轟轟烈烈。
AI技術(shù)被利用在造謠上，其實并非首例。小作文還算少見，更常見的是AI繪畫和合成照片。比如前不久，一張“五角大樓附近爆炸”的照片在國外社交媒體上瘋狂流傳，多家美國媒體信以為真，對此事進行了報道。但最終這張照片被確認(rèn)是假的，為AI合成。
不法分子們也早就盯上AI技術(shù)了。
前不久，媒體集中報道了AI詐騙的現(xiàn)象。其中，內(nèi)蒙古包頭市警方官方微信公眾號前不久披露的一起典型案例被廣泛引用。
警情通報稱，郭先生是一家科技公司的法人代表，在今年4月，他的好友突然通過微信視頻聯(lián)系他，稱自己的朋友在外地競標(biāo)，需要430萬元保證金，想借用郭先生公司的賬戶走賬。
在對朋友的信任，以及視頻聊天“核實”身份的情況下，郭先生在10分鐘內(nèi)，先后分兩筆把430萬元轉(zhuǎn)到了對方的銀行賬戶上。直到之后郭先生打電話給好友，才得知，剛剛和他視頻聊天的，其實是通過AI換臉和擬聲技術(shù)，偽裝成好友的騙子。
耳聽、眼見都不一定為實了。警方甚至表示，這種騙局的成功率，接近100%。
還有一位百萬粉絲的女網(wǎng)紅，被不法分子“偷臉”，利用AI換臉技術(shù)把她的臉換在“小視頻”上，并用她的名義販賣假視頻牟利。
中國互聯(lián)網(wǎng)協(xié)會官微也在今天發(fā)文稱，今年以來，ChatGPT和GPT-4等技術(shù)的應(yīng)用，成為了信息科技領(lǐng)域的熱點，引起公眾對AI技術(shù)的廣泛關(guān)注和熱情。但伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮。中國互聯(lián)網(wǎng)協(xié)會表示，面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強防范。
國家網(wǎng)信辦起草的《生成式人工智能服務(wù)管理辦法（征求意見稿）》也在4月11日公開征求意見。征求意見稿提出，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會公德、公序良俗，禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。
其第五條明確規(guī)定了提供者應(yīng)當(dāng)承擔(dān)生成式人工智能產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任，如果涉及個人信息的，還要承擔(dān)個人信息處理者的法定責(zé)任。
關(guān)鍵詞：
