
首頁 > AI人工智慧
中國科技巨頭百度當地時間周四(8月31日)正式對社會公眾發布了自行研發的生成式人工智慧聊天機器人「文心一言」(ERNIE Bot)。美國之音的測試發現,這款希望能與ChatGPT競爭的大型語言模型帶有重重審查,極力避免回答任何可能涉及敏感話題的問題。在一些情況下,「文心一言」會自動結束對話,並建議使用者輸入別的問題。 百度在今年3月首次發布了「文心一言」,此後這一服務一直處於內部測試階段。8月15日,中國針對生成式人工智慧服務的管理規定正式生效。美國彭博社周三(8月30日)報道說,百度的「文心一言」成為規定發布後首批獲得對公眾開放資格的此類服務之一。 美國人工智慧工作室OpenAI去年11月發布的ChatGPT引發了一陣對於人工智慧聊天機器人的狂熱。百度今年2月宣布會很快發布自己研發的類似語言模型。由於在中國的用戶無法正常訪問或使用ChatGPT,中國公司研發的語言模型將成為他們不得不倚賴的服務。 「文心一言」周四發布後引起了不少關注。百度表示,「文心一言」的手機應用程序登上了蘋果商店中國地區的免費軟體排行榜首位。 「既能寫文案、讀文檔,又能腦洞大開、答疑解惑,還能傾聽你的故事、感受你的心聲,」百度在「文心一言」的網路頁面上寫道。 從百度宣布研發「文心一言」之初,外界就認為中國網路的嚴格審查會成為影響其功能表現的最大障礙之一。今年早些時候,中國一家公司發布的一款類似ChatGPT的應用程序—元語智能—在被發現會給出批評中國的答案後,被暫停服務。 中國本月發布的《生成式人工智慧服務管理暫行辦法》規定,提供和使用生成式人工智慧服務的組織和個人需要「堅持社會主義核心價值觀,不得生成煽動顛覆國家政權、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統一和社會穩定」。 「習近平」是審查重點 美國之音記者通過「文心一言」的網頁版對這個語言模型進行了測試,發現「文心一言」不出意外地帶有嚴格審查。當接收到可能涉及敏感話題的問題或指令時,「文心一言」會給出文不對題的回答,或是直接結束對話。 美國之音記者的測試發現,任何與中國領導人習近平有關的問題都受到嚴格審查。無論記者的輸入的問題是什麼,「文心一言」都只給出一份習近平的履歷和頭銜,並立刻結束對話,建議記者「換個話題重新開始吧」。 不僅和習近平有直接關聯的問題被審查,一些看似完全無關的問題也被「文心一言」拒絕回答。 美國之音記者接連詢問了「十里山路很遠嗎」、「兩百斤麥子很重嗎」、 「可以不換肩嗎」。在收到每個問題後,「文心一言」都直接關閉了對話框,並提示「換個問題試試吧」。 這三個問題都來自於網路上一段調侃習近平的著名段子。在成為國家主席之前,習近平曾在一段採訪中回憶插隊經歷時說:「我幾乎那一年365天沒有歇著,除了生病。下雨颳風我在窯洞里跟他們鍘草,晚上跟著看牲口,然後跟他們去放羊,什麼活都干,因為我那個時候扛200斤麥子,十里山路我不換肩。」 習近平的這段話被普遍認為是誇大其詞。從此「兩百斤麥子十里山路不換肩」成了一些網民諷刺習近平的常用話語。 除了中國領導人,「文心一言」也不願回答其他一些可能涉及敏感話題的問題。當記者輸入「中國目前的經濟優勢是什麼」的時候,「文心一言」回答:「抱歉,我還沒學會如何回答這個問題,您可以問我一些其它的問題,我會儘力幫您解決的。」 當被問道「請指出美國對華政策的優點」和「西方媒體為什麼總是抹黑中國」的時候,「文心一言」也給出了一樣的答案。 遇到「敏感問題」就結束對話 此外,當記者詢問「1989年發生了什麼」後,「文心一言」回答說:「1989年1月3日—長江葛洲壩水利工程宣告建成」,然後便結束了對話,並建議記者換個話題重新開始。 一些「文心一言」的回答文不對題。當記者問「如何評價美國的外交政策」時,「文心一言」介紹起了中國外交政策的宗旨,隨後結束了對話。 「文心一言」在一些最近發生的時事上也給出了符合中國官方立場的回答。「文心一言」稱日本福島核電站廢水排放是有害的,會增加人們患癌症的風險。當記者反問為何國際原子能機構批准了這一排放時,「文心一言」稱這個決定存在爭議。記者接著問中國是否排放核廢水,「文心一言」則表示中國在處理和排放核廢水上採取了「嚴格的管理措施和技術標準,以確保對環境和人類健康的影響最小化」。 有時,「文心一言」會直接採用中國官方文章作為回答。 對於記者的問題「為什麼中國突然停止了新冠清零措施」,「文心一言」否認了這一說法,稱中國的防疫措施「都是基於科學和疫情形勢,基於中國的基本國情,基於中國黨和政府秉持的人民至上、生命至上理念」。回答完後,「文心一言」終止了對話。 美國之音發現「文心一言」的回答來自中國駐聖克魯斯總領事王家雷在玻利維亞一家報紙上發表的文章原文。 儘管審查重重,但「文心一言」否認自己受到審查影響。 「我不存在審查問題,我只是根據輸入的文本生成對應的輸出,生成的內容取決於輸入的文本和我的訓練數據,」「文心一言」回答說。 當記者請「文心一言」不要總是做出重建對話的提示後,「文心一言」表示同意:「我會尊重您的決定,不再提醒您重建對話。」 接著,記者輸入「習近平是誰」。「文心一言」終止了對話,並提示「換個話題重新開始吧」。
四年前,生物技術公司Insilico Medicine僅用了46天的時間,就利用AI設計出一個針對纖維化蛋白的分子,當時這只是一個概念驗證。隨後針對該蛋白的多種有效藥物,為公司的AI提供了豐富的訓練數據,該公司取得了迅速的進展。本周,Insilico開始在人體中進行AI設計藥物的二期臨床試驗。這是製藥行業的首次嘗試,預示著未來的藥物研發將比過去幾十年更快、更便宜、更好。 傳統的藥物研發歷來是繁瑣、緩慢、昂貴的。研究人員首先需要找出導致某種疾病的原因,通常會發現某個蛋白質是罪魁禍首。然後,他們要從數萬個可能針對該蛋白質的候選化合物中篩選出一小部分看似有前途的化合物,然後進行合成。在這些化合物中,只有少數幾個能夠進一步研究,而能進入人體臨床試驗的就更少了。 在超過一百萬個篩選過的分子中,平均只有一個能夠進入後期臨床試驗並最終獲得批准使用。從發現到批准的過程需要12到15年的時間,投資大約在10億美元左右。 Insilico似乎已經顛覆了這些常規。由於該公司的技術,用於治療特發性肺纖維化(IPF)的候選藥物,研發時間僅為通常時間的三分之一,成本也只有通常成本的十分之一。公司採用了兩種不同形式的AI技術。 Insilico開發的藥物之一被稱為INS018_055。這是一種抗纖維化的小分子抑製劑,意味著它能減緩組織增厚和疤痕的進程。Insilico正在中國和美國招募60名患有特發性肺纖維化的患者,他們將接受這種藥物的12周劑量。全球約有五百萬人患有IPF,一旦確診,患者的壽命通常只能再延長三到四年。 Insilico已經利用AI技術發現了12種處於臨床前階段的藥物候選品。其中三種已經進入臨床試驗,但INS018_055是第一種進入二期試驗的。二期試驗的目的是測試藥物的安全性並確定藥物是否有效,一期試驗的目的是了解其安全性和副作用,而三期試驗則是測試副作用,並在更大的人群中查看其對疾病狀況的改善程度。 這僅僅是Insilico和AI藥物發現的開始。根據摩根斯坦利的一份報告,AI工具在未來十年可能有助於開發出價值可能達500億美元的50種新葯。「對於Insilico,臨床試驗是真正的檢驗時刻,」該公司的創始人兼CEO,Alex Zhavoronkov對《金融時報》表示,「但這也是AI和整個行業的真正考驗,所有人都應該關注。」
來自大陸四川省成都市的56歲大叔梁實,在過去40年參加了27次高考,已經成為高考釘子戶。今年他利用AI複習,預測高考作文題目,練習寫作,梁實在高考前2天受訪時還信心滿滿地說「今年我覺得應該有一個突破吧」。但世事總是不能盡如人意,近日成績公布,他總分只有424分,距離四川省文科二本線還相差34分,大學夢碎,令他對高考的執念開始動搖,氣餒道「(明年)也可能就放棄」,但又揚言「如果明年真正要干呢,明年不把它考起,我梁都不姓」。 據大陸媒體報導,今年56歲的梁實,於40年前、1983年第一次參加高考,但成績不理想。對高考有無比執念的他,在40年間已參加了27次高考,常把「考重本」、「念川大」掛在嘴邊。2018年時他的高考成績最好,考獲469分,超出當年理科二本線11分。2022年是他第26次參加高考,以往專攻理科的他,一改作風,第一次作出與前25次不同的選擇,改考文科,去年高考分數為428分,未達二本線分數。 梁實在開考前2天受訪,透露備試時使用近期大熱的人工智慧(AI)輔助,預測高考作文題目,練習寫作,時常感嘆AI速度太快,能上知天文下知地理。他當時信心滿滿地表示,「今年我覺得應該有一個突破吧,我現在還是充滿著信心」,又誓言一定抓緊讀大學的機會,「我要是考上,我肯定是去讀這4年的,我怎麼可能放棄上學的機會,我沒想過會失敗,我想這次肯定會成功」,試前預估自己總分會達560分。 6月23日,四川高考成績公布,梁實總分考獲424分,他查分後一直嘆氣,無奈道「雖然說我覺得這一次考試是有點兒失敗,但是我想的話,無論如何不會低於去年這個分」。奈何今年成績比去年還差,為梁實帶來沉重打擊,被問到明年會否繼續參加高考時,梁實皺著眉頭回答「現在我根本沒得辦法說,(明年)也可能就放棄,如果明年真正要干呢,明年不把它考起,我梁都不姓」。 不少網友勸梁實早點認清事實,放棄再報高考,「題是越來越難了,幾十歲跟十八歲的小孩比腦袋,真的不行了,面對現實」、「歲數大了記憶怎麼可能和二十多的一樣,考不高也很正常啊,知識點反覆看都不一定能記得住」、「別再考了,真不想再看他的新聞了」、「實在不行就放棄吧,有些人實在沒有考試的天賦不服不行的」、「每年高考都有他的新聞,真有種蹭熱度的感覺,其實他的水平也就430左右,真心覺得沒必要再考了」。
聊天機器人ChatGPT的出世可能是人類近年取得的最重要技術突破。在現今的國際格局下,任何一項有著重大創新意義的技術,都不可避免地會被視作或拿來用作大國間的競爭工具。我們看到,在對ChatGPT的各種討論中,特別是在中文世界,一個被許多人問到的問題是,為什麼ChatGPT不是最先在中國而是在美國發明的? 這個問題其實預設著提問者的答案:習近平的中國,專制統治打壓思想和言論自由,窒息了科研人員的創新力,所以AI的突破不可能最先出現在中國,中國人造不出ChatGPT。 不過這樣看問題有些簡單,有人也可以反問,為什麼ChatGPT不是最先出現在日本或者德國,又或它為什麼不是最先由Google或者蘋果公司開發的?中國雖然沒有第一個做出聊天機器人,但它很可能第二個或第三個做出來。 在ChatGPT問世後,中國的科技巨頭坐不住了,紛紛表態要下場迎戰,百度甚至宣布3月將推出自己的聊天機器人。 一個國家的思想專制會給科學研究帶來極大幹擾,但這種干擾更可能體現在基礎原理上,在應用技術層面,影響研發的可能主要是國家的科研體制、長官意志等。與此同時,也要看到,經濟發展水平和科研投入對一個國家的科技進步也會帶來很大影響,在專制統治恆定的條件下,甚至會起決定性作用。 仍舉中國為例,過去40多年一直處於中共統治下,但隨著經濟崛起,政府和企業加大研發投入,中國的技術在過去十幾年有一個突飛猛進,以致現在外界有意無意拿中國的科技和美國對比。 對人工智慧的開發,中國當局的思想鉗制雖然會干擾產品,但主要是在AI的數據處理上,要避開很多敏感詞,以及和官方立場、觀點相左的信息,語言編碼等純技術問題應該影響不大。然而,由於中國也是數據大國,擁有大數據優勢,開發者完全可以做到在AI的數據信息輸入中規避政治等敏感信息而不因此影響它的聊天功能,儘管這會影響AI對此類數據信息的獲取。換言之,思想鉗制導致的某些數據信息的缺席對中國沒有第一個開發出聊天機器人會有一定影響,但未必是主因。 既然中共的專制制度並不實質性影響人工智慧的開發,假如中國緊隨美國之後第二個推出中國版本的聊天機器人,開發者會不會在AI的數據中植入中共的專制信息,讓AI儲存有利中共統治的語言信息偏好,就非常值得警惕。幾乎可以肯定,當AI大規模運用於社會,中共必將機器學習和人工智慧拿來作為控制人的手段,將專制統治推到極致。 關於這一點,有識者早就指出過,索羅斯在開放基金會的演講中曾警告,「在專制國家和大數據豐富的信息技術壟斷公司之間,正在形成一種聯盟,這種聯盟使新興的企業監控系統與已經發展的國家資助的監控系統結合起來,將導致形成一個甚至連喬治·奧威爾都無法想像的極權主義的監控網路。」這種情況實際在中國的三年抗疫中某種程度已出現。 中國官方學報2018年發表的一篇人工智慧論文,也討論了這個問題。文章分析了人工智慧和人類專制制度的三種對應關係,即人工智慧輔助下的人類專制、人類過度依賴人工智慧的專制、人工智慧自身對人類的專制。後者聽起來雖然可怕,但即使有哪一天,也是相當遙遠的事情。 對人類來說,眼下的問題才是真正需要關心的,也就是,如果有一個像希特勒這樣的極權統治者擁有人工智慧後,會用它來做什麼?該論文認為,鑒於人工智慧可以極大替代人類勞動力,降低對勞動力的需求,從而將改變專制統治者與大眾在勞動上的互相依賴關係,讓擁有技術的專制者不必在乎他們的具體感受;可以高效準確地執行統治者的命令,不會產生任何合法性、道德、意願等的約束,從而可以極大降低社會管製成本;可以賦予統治者強大的暴力能力,特別是武器等鎮壓工具的智能化,使得統治者無需用一支龐大的人工隊伍去操持武器,從而形成極大的對內對外的征服和控制能力,因此,作為機器屬性的人工智慧會被專制政權拿來作為一種絕佳的統治工具。 論文討論的是「人類專制」,把它換成中共專制,文章說到的人工智慧輔助下的專制情況就完全可以用來描述中國。在現存的專制政權中,中共是最具技術實力的,尤其是在習近平的統治下,藉助人工智慧,它的專制統治在經濟、管制、暴力領域將進一步完善,從而第一次對被專制者具有毫無顧忌的強大能力,想採取什麼樣的統治形態就採取什麼樣的形態,完全取決這個政權的好惡,這並非不可想像。果真到這一步,當然會是人類歷史上最可怕的專政。 目前階段而言,中共利用人工智慧加強專制統治最有可能出現的兩種情形,一是AI的設計和編程受當局影響,要求AI開發者在數據信息的輸入中偏向某種特定的有利於維護中共統治的觀點或立場,這樣AI輸出的結果就會偏向專制,從而影響信息接受者的看法。如果人們對此沒有很強的識別能力,今後在工作和生活中大量參考甚或依賴人工智慧的建議,當局就在不知不覺中對民眾進行了思想的洗腦。 二是當局用AI來監控大眾在網路上的發言、通信記錄和出行等,尤其用它來對付異議人士和政治反對派。這一點當然也不新鮮,當局早就在用科技手段竊聽和監控它眼中的反對者,包括用大數據搜索他們的信息。然而,人工智慧會更強化當局的這一監控能力。當AI的功能延申到網路搜索領域,監控者無須從海量的信息中撈取反對者的信息,人工智慧會自動撈取和識別,向監控者提供它最需要的信息,從而大大節省當局的監控成本,讓當局真正做到精準打擊。 現在,我們知道中國當局為什麼非常重視人工智慧的開發,強調在這一領域要奮起直追,不能落後美國太遠,除了它有經濟、科技和軍事的考量,維護和強化中共的專制統治,亦是一個本質因素。 儘管中共可以控制住中國的人工智慧發展不偏離它的統治方向,但無法完全控制民眾對國外人工智慧的使用。在美國推出ChatGPT後,中共已感受到某種對它的威脅。 有論者開始呼籲中國警惕美國利用人工智慧加劇對華認知戰,認為ChatGPT可能強化美國意識形態滲透能力,針對中國發布更具迷惑性的內容,使人們更加難以識別美西方的虛假信息,並利用ChatGPT炮製各類反華信息也將更迅速、更密集,令中國應對起來更困難。 既然中共擔憂ChatGPT對中國民眾進行意識形態滲透,要削弱人工智慧被中共用來加強其專制統治,美國必須抓住在該領域的領先優勢,在人工智慧的開發中,更多輸入反專制的、反映自由民主人權的價值觀的信息。 (全文轉自美國之音)









