提起ChatGPT，想必大家都不陌生。面世兩個月，月活用戶量就迅速過億，ChatGPT爆火全球的速度讓人又驚又喜。寫論文、寫小說、寫代碼、找bug、編劇本、畫漫畫……簡直沒有它干不了的事！
不過，隨著ChatGPT等大型人工智能模型的興起，一些問題也逐漸暴露了出來。
01
三星被曝機密數(shù)據(jù)泄漏
近日，有媒體報道稱，三星電子引入ChatGPT不到20天，就曝出3起內部機密資料外泄事故。其中，2起跟半導體設備有關，1起跟會議內容有關。目前，這些機密資料可能已被存入ChatGPT的數(shù)據(jù)庫中，隨時都面臨著被泄露的風險。
據(jù)了解，這3起事故分別為：
1）三星DS設備解決方案部門的員工，在操作半導體測試設備下載軟件的過程中，發(fā)現(xiàn)復制有問題，于是便將有問題的代碼復制到ChatGPT中尋找答案，這就有可能讓ChatGPT把三星的機密信息當作訓練資料來使用；
2）同樣是該部門員工，本想用ChatGPT來優(yōu)化代碼，可這些代碼是涉及芯片良率的；
3）三星內部人員想讓ChatGPT記錄會議內容，雖然不是技術機密，但也可能導致其它機密外泄。
該報道指出，為杜絕類似事故再發(fā)生，三星正在制定相關保護措施。若之后又發(fā)生類似事故，三星內部可能會切斷ChatGPT服務。
▲相關報道截圖
值得注意的是，三星存儲事業(yè)部內的“運算新事業(yè)組”正在開發(fā)與ChatGPT相關的超大型AI用“定制款新一代存儲器”。
據(jù)悉，“運算新事業(yè)組”是存儲事業(yè)部中的先行事業(yè)開發(fā)組織，負責人為首席金鎮(zhèn)賢，此前該部門集中研發(fā)具運算能力的存儲處理器（Processing In Memory，PIM）。PIM除了可以存儲數(shù)據(jù)之外，還能在存儲器內對數(shù)據(jù)進行整合和運算。
如果三星內部決定切斷ChatGPT服務，屆時“運算新事業(yè)組”所研發(fā)的“定制款新一代存儲器”可能也將被叫停。
據(jù)了解，三星從今年3月11日才允許DS部門員工使用ChatGPT，而對DX裝置體驗部門員工仍然禁用ChatGPT。結果，還不到一個月就出現(xiàn)了3次意外，這也證實了先前部分觀點對ChatGPT的擔憂。
對此，三星透過公告叮囑員工要注意ChatGPT的使用方式，并提醒使用者在ChatGPT輸入內容后，相關數(shù)據(jù)都將傳送到外部服務器。由于三星無法回收這些外流數(shù)據(jù)，因此如果讓ChatGPT學習三星內部數(shù)據(jù)，可能會讓敏感內容外流。
02
ChatGPT引發(fā)學術界擔憂
事實上，這并不是ChatGPT第一次陷入“泄露”風波。此前，Redis的開源庫bug就曾導致ChatGPT發(fā)生故障和數(shù)據(jù)泄露，造成了部分用戶可以看見其他用戶的個人信息和聊天查詢內容。
同樣，OpenAI的ChatGPT由于開源庫中的一個錯誤，也導致了部分用戶信息泄露，其中包括訂閱者的姓名、電子郵件地址、支付地址、信用卡號后四位數(shù)字等個人隱私。
然而，人們對于ChatGPT的擔憂，還遠不止“信息泄漏”這一點。盡管ChatGPT在回復時經(jīng)常會帶有一種異常堅定的語氣，但這個回復卻可能存在大量的常識性錯誤。如果僅僅是常識性錯誤，還比較容易鑒別，可一旦涉及到比較專業(yè)的問題，非相關專業(yè)人士就很可能被ChatGPT帶入歧途。
比如，有人就曾利用ChatGPT搜索“Cr-Zr近共晶點行為特征”，ChatGPT給出的回復乍一看有理有據(jù)，甚至還有參考文獻?？梢坏┥罹烤蜁l(fā)現(xiàn)，這些參考文獻完全是ChatGPT偽造的。
浙江大學醫(yī)學院附屬第一醫(yī)院，更是在研究ChatGPT時發(fā)現(xiàn)，其醫(yī)學專業(yè)知識根本不及格。
在一次測試中，該醫(yī)院人員從2020年臨床執(zhí)業(yè)醫(yī)師資格考試真題庫中篩選出100道單選題，結果ChatGPT僅僅答出56分的成績，就連一些書上有標準答案的基礎題，ChatGPT也會出錯。
對此，該醫(yī)院人員分析認為，可能是ChatGPT從網(wǎng)上學到了錯誤的答案。同時，該醫(yī)院人員發(fā)現(xiàn)，ChatGPT存在嚴重的偏科現(xiàn)象，比如內科領域準確率僅20%，而微生物學則能夠達到70%。
03
意大利成首個封禁ChatGPT的國家
那么，在信息安全威脅下，我們還能安心使用ChatGPT嗎？近日來，反AI浪潮聲四起，繼馬斯克等千人聯(lián)名呼吁之后，意大利準備全面封殺ChatGPT。
當?shù)貢r間3月31日，意大利個人數(shù)據(jù)保護局宣布，暫時禁止使用人工智能軟件ChatGPT，限制其開發(fā)公司OpenAI處理意大利用戶信息，并開始立案調查。該機構認為，OpenAI公司非法收集用戶個人數(shù)據(jù)，且沒有設置年齡驗證系統(tǒng)防止未成年人接觸非法材料，因此將采取限制措施“直到ChatGPT尊重隱私”。
至此，意大利成為了首個封禁ChatGPT的國家！
該機構稱，3月20日ChatGPT平臺出現(xiàn)用戶對話數(shù)據(jù)和付款服務信息丟失。此外，該平臺沒有就收集處理用戶信息進行告知，且缺乏大量收集和存儲個人信息的法律依據(jù)。因此，意大利監(jiān)管機構要求OpenAI公司必須在20天通報采取了哪些措施來確保用戶數(shù)據(jù)隱私，否則將被處以最高2000萬歐元或公司全球年營業(yè)額4%的罰款。
隨后，OpenAI表示已在意大利將ChatGPT下線。但OpenAI首席執(zhí)行官Sam Altman回應稱，其工作是“為了在訓練ChatGPT等人工智能系統(tǒng)時減少個人數(shù)據(jù)，因為我們希望我們的人工智能了解世界，而不是了解個人”。
Sam Altman認為，公司并沒有違反任何規(guī)定，愿與意大利個人數(shù)據(jù)保護局密切合作。
▲Sam Altman回應“封殺ChatGPT”一事
其實，任何事情都具有兩面性。作為顛覆性科技，ChatGPT為人類帶來了前所未有的機遇，但因其產(chǎn)生的安全隱患也不容忽視。對此，我們應該理性對待，更多的監(jiān)管與限制也應同步跟上，提高駕馭ChatGPT的能力，讓ChatGPT成為人類的好助手。
下載文檔
