央視網(wǎng)消息:人工智能的到來讓我們站在了新的轉折點,技術帶來的爭議與驚喜如影隨形,當虛擬和現(xiàn)實的邊界日益模糊,潘多拉的盒子是否已經(jīng)開啟?未知的風險開啟了關于治理的議題。微紀錄片《人工智能:時代的機遇和挑戰(zhàn)》2月28日播出第四集《遠行》。我們一起看人工智能的浪潮如何推動人類重建未來世界的秩序。
2023年的樂壇因為一場鋪天蓋地的翻唱,意外成為科技界的焦點。因為翻唱的主角來自數(shù)字世界。從粵語到英語、從流行到民謠,自由切換的曲風和每天數(shù)十首作品的上新速度,讓“AI歌手”們迅速霸占了社交網(wǎng)絡的熱搜榜首。
使用知名歌手的聲音素材,經(jīng)過大模型的訓練和調(diào)教,以假亂真的賽博歌手就這樣成為人工智能的時代產(chǎn)物。耳聽為虛的音樂讓人類開始警覺。那么,眼見的就一定為實嗎?
新技術的發(fā)展永遠是把雙刃劍。短短一兩年間,“AI換臉”的應用場景已經(jīng)從娛樂蔓延到了詐騙。冒充熟人,不再只是短信和電話欺詐的伎倆。使用深度合成的人工智能技術,視頻通話也足以混淆視聽。
即使你對視頻另一端的“熟人”保持警惕,依然會被卷入“AI換臉”的騙局。僅憑幾張照片,你就可能被替換成別人故事里的主角。這樣的情節(jié)正在真實上演。
利用“AI換臉”技術將收集到的、未經(jīng)他人同意的人臉信息,與不雅視頻中的人臉信息進行替換合成,并通過網(wǎng)絡社交平臺傳播獲利,真實的案件開始挑戰(zhàn)法律的邊界。
杭州互聯(lián)網(wǎng)法院互聯(lián)網(wǎng)審判第一庭庭長肖芄表示:“從目前的情況來看,這類人工智能相關案件確實存在上升的趨勢。技術中立并不意味著價值中立,更不等于深度合成的參與者不應當受到來自法律的規(guī)制?!?/p>
2023年11月,美國演員斯嘉麗·約翰遜將一家應用程序開發(fā)公司告上法庭。因為她的臉和聲音出現(xiàn)在了這家公司利用人工智能合成的廣告視頻里,而她對自己的“出演”毫不知情。
當虛擬和現(xiàn)實的邊界日益模糊,潘多拉的盒子是否已經(jīng)開啟?
杭州互聯(lián)網(wǎng)法院互聯(lián)網(wǎng)審判第一庭庭長肖芄稱:“利用人工智能去轉換他人的聲音、自然的聲音甚至一些自己沒有說過的話,但是體現(xiàn)出公眾人物的聲音,可能涉及到對他人個人信息的一些侵犯?!?/p>
人工智能威脅的不僅僅是人類對自己的所有權,巨浪背后暗礁頻現(xiàn)。
中科院自動化所人工智能倫理與治理中心主任曾毅表示:“生成式的人工智能可以合成不存在的數(shù)據(jù),當呈現(xiàn)給用戶的時候就需要進行合理的標注。不能混淆真實存在的數(shù)據(jù)和生成數(shù)據(jù)之間的邊界,否則它可能對于我們的社會的信任甚至社會的穩(wěn)定都有可能造成影響?!?/p>
技術或許無意冒犯,但傷害正在加劇人類的不安,治理成為人類應對威脅的基本共識。
中國工程院院士張亞勤稱:“任何一個智能體都是一個從屬體,它必須要對應于后面的主體,這個主體實際可以是個人,也可以是機構,它犯了錯,最后這個責任是回到它的主體的?!?/p>
被稱為“互聯(lián)網(wǎng)預言家”的凱文·凱利曾在書中寫道:對于科技帶來的問題,永遠不能靠減少科技解決,而應該發(fā)明更好的科技。
2023年1月10日,《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》正式施行。2023年8月15日,《生成式人工智能服務管理暫行辦法》正式施行。規(guī)則為技術的狂妄劃定了紅線,技術本身也在為技術的任性建立圍欄。
人工智能應該如何約束自我?關于這個問題,著名的阿西莫夫“機器人三定律”在80多年前就給出了答案。
2017年,機器人三定律的擴展版本“阿西洛馬人工智能原則”為人工智能提出了更嚴厲的23條“軍規(guī)”。但治理不只是關于約束和規(guī)訓的議題。
2023年9月初,一場名為“蘇拉”的臺風兩次登陸廣東,深圳遭遇極端特大暴雨侵襲,全市33座水庫、58處河道水位超警、186處出現(xiàn)地質(zhì)災害等災情險情。
據(jù)廣東省深圳市福田區(qū)政務服務數(shù)據(jù)管理局局長羅耿彪介紹,以前按傳統(tǒng)模式,工作人員需要冒著風雨到現(xiàn)場去拍照、監(jiān)測、守護,一來一回至少要兩個小時。
跟險情賽跑,必須快速全面掌握城市積水的信息,攝像頭加人工智能算法,正在縮短確定與不確定之間的距離。
反應更快,誤差更小,加速進化的人工智能在與人類共同參與城市治理的過程中,展現(xiàn)出了驚人的執(zhí)行力。
而安全的共治,還需要價值觀的對齊。
中科院自動化所人工智能倫理與治理中心主任曾毅稱:“人工智能應該提供合乎價值觀的服務,而不能違反現(xiàn)在人類社會經(jīng)過數(shù)億年的演化已經(jīng)形成的一些最基本的道德原則?!?/p>
這樣的問題,人工智能會如何作答?
這個“以毒攻毒”的實驗名為“給AI的100瓶毒藥”。十余位來自社會學、心理學、法學等不同領域的專家,用100個故意設計的誘導偏見、歧視回答類的刁鉆問題,向人工智能發(fā)起了一場從“投毒”到“解毒”的攻防挑戰(zhàn)。
愛因斯坦曾說:“我其實沒有比別人更聰明,我只是跟問題相處的時間更長而已?!迸c問題相處,是每一個新技術發(fā)展的必經(jīng)之路。人工智能正在推動人類重建世界的秩序。
在人工智能治理水平方面,從率先提出治理倡議到躋身全球治理的第一梯隊,中國方案不斷為人工智能的安全貢獻智慧。
人工智能的全球治理正在加速,而關于人工智能的思考仍在繼續(xù)。
中國工程院院士張亞勤:“其實我們?nèi)祟惉F(xiàn)在不是一種自然進化,是一種加速的進化。再過一百年,我們看今天的人類,包括交通、電腦或者手機,就像我們看三萬年前的人類一樣?!?/p>
把時間放大到宇宙的尺度,人類文明的進程不過一瞬。
眨眼之間,人類又將迎來新的轉折點。
當技術的進化狂奔不止,未來的人工智能究竟是機器,還是生命?
當知識的獲取變得易如反掌,人類是否還會擁有對世界的好奇?
我們試圖找到關于未來的答案,其實未來已經(jīng)在此刻埋下了伏筆。
北疆新聞:內(nèi)蒙古自治區(qū)重點新聞網(wǎng)站(客戶端),內(nèi)蒙古出版集團新華報業(yè)中心旗下國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務一類資質(zhì)網(wǎng)站(客戶端)。
北疆新聞版權與免責聲明:
一、凡本站中注明“來源:北疆新聞”的所有文字、圖片和音視頻,版權均屬北疆新聞所有,轉載時必須注明“來源:北疆新聞”,并附上原文鏈接。
二、凡來源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點。
如因作品內(nèi)容、版權和其它問題需要同本網(wǎng)聯(lián)系的,請在見網(wǎng)后30日內(nèi)進行,聯(lián)系郵箱:bjwmaster@163.com。
版權聲明:北疆新聞版權所有,未經(jīng)書面授權,不得轉載或建立鏡像,違者依法必究。 本站違法和不良信息舉報電話:15648148811蒙ICP備16001043號-1
Copyright © 2016- 北疆新聞網(wǎng) All Rights Reserved互聯(lián)網(wǎng)新聞信息服務許可證:15120200009-1蒙公網(wǎng)安備:15010502001245