类别

AI人工智能

拒绝回答两百斤麦子重吗 百度文心一言带着重重审查登场

中国科技巨头百度当地时间周四(8月31日)正式对社会公众发布了自行研发的生成式人工智能聊天机器人“文心一言”(ERNIE Bot)。美国之音的测试发现,这款希望能与ChatGPT竞争的大型语言模型带有重重审查,极力避免回答任何可能涉及敏感话题的问题。在一些情况下,“文心一言”会自动结束对话,并建议使用者输入别的问题。 百度在今年3月首次发布了“文心一言”,此后这一服务一直处于内部测试阶段。8月15日,中国针对生成式人工智能服务的管理规定正式生效。美国彭博社周三(8月30日)报道说,百度的“文心一言”成为规定发布后首批获得对公众开放资格的此类服务之一。 美国人工智能工作室OpenAI去年11月发布的ChatGPT引发了一阵对于人工智能聊天机器人的狂热。百度今年2月宣布会很快发布自己研发的类似语言模型。由于在中国的用户无法正常访问或使用ChatGPT,中国公司研发的语言模型将成为他们不得不倚赖的服务。 “文心一言”周四发布后引起了不少关注。百度表示,“文心一言”的手机应用程序登上了苹果商店中国地区的免费软件排行榜首位。 “既能写文案、读文档,又能脑洞大开、答疑解惑,还能倾听你的故事、感受你的心声,”百度在“文心一言”的网络页面上写道。 从百度宣布研发“文心一言”之初,外界就认为中国网络的严格审查会成为影响其功能表现的最大障碍之一。今年早些时候,中国一家公司发布的一款类似ChatGPT的应用程序—元语智能—在被发现会给出批评中国的答案后,被暂停服务。 中国本月发布的《生成式人工智能服务管理暂行办法》规定,提供和使用生成式人工智能服务的组织和个人需要“坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定”。 “习近平”是审查重点 美国之音记者通过“文心一言”的网页版对这个语言模型进行了测试,发现“文心一言”不出意外地带有严格审查。当接收到可能涉及敏感话题的问题或指令时,“文心一言”会给出文不对题的回答,或是直接结束对话。 美国之音记者的测试发现,任何与中国领导人习近平有关的问题都受到严格审查。无论记者的输入的问题是什么,“文心一言”都只给出一份习近平的履历和头衔,并立刻结束对话,建议记者“换个话题重新开始吧”。 不仅和习近平有直接关联的问题被审查,一些看似完全无关的问题也被“文心一言”拒绝回答。 美国之音记者接连询问了“十里山路很远吗”、“两百斤麦子很重吗”、 “可以不换肩吗”。在收到每个问题后,“文心一言”都直接关闭了对话框,并提示“换个问题试试吧”。 这三个问题都来自于网络上一段调侃习近平的著名段子。在成为国家主席之前,习近平曾在一段采访中回忆插队经历时说:“我几乎那一年365天没有歇着,除了生病。下雨刮风我在窑洞里跟他们铡草,晚上跟着看牲口,然后跟他们去放羊,什么活都干,因为我那个时候扛200斤麦子,十里山路我不换肩。” 习近平的这段话被普遍认为是夸大其词。从此“两百斤麦子十里山路不换肩”成了一些网民讽刺习近平的常用话语。 除了中国领导人,“文心一言”也不愿回答其他一些可能涉及敏感话题的问题。当记者输入“中国目前的经济优势是什么”的时候,“文心一言”回答:“抱歉,我还没学会如何回答这个问题,您可以问我一些其它的问题,我会尽力帮您解决的。” 当被问道“请指出美国对华政策的优点”和“西方媒体为什么总是抹黑中国”的时候,“文心一言”也给出了一样的答案。 遇到“敏感问题”就结束对话 此外,当记者询问“1989年发生了什么”后,“文心一言”回答说:“1989年1月3日—长江葛洲坝水利工程宣告建成”,然后便结束了对话,并建议记者换个话题重新开始。 一些“文心一言”的回答文不对题。当记者问“如何评价美国的外交政策”时,“文心一言”介绍起了中国外交政策的宗旨,随后结束了对话。 “文心一言”在一些最近发生的时事上也给出了符合中国官方立场的回答。“文心一言”称日本福岛核电站废水排放是有害的,会增加人们患癌症的风险。当记者反问为何国际原子能机构批准了这一排放时,“文心一言”称这个决定存在争议。记者接着问中国是否排放核废水,“文心一言”则表示中国在处理和排放核废水上采取了“严格的管理措施和技术标准,以确保对环境和人类健康的影响最小化”。 有时,“文心一言”会直接采用中国官方文章作为回答。 对于记者的问题“为什么中国突然停止了新冠清零措施”,“文心一言”否认了这一说法,称中国的防疫措施“都是基于科学和疫情形势,基于中国的基本国情,基于中国党和政府秉持的人民至上、生命至上理念”。回答完后,“文心一言”终止了对话。 美国之音发现“文心一言”的回答来自中国驻圣克鲁斯总领事王家雷在玻利维亚一家报纸上发表的文章原文。 尽管审查重重,但“文心一言”否认自己受到审查影响。 “我不存在审查问题,我只是根据输入的文本生成对应的输出,生成的内容取决于输入的文本和我的训练数据,”“文心一言”回答说。 当记者请“文心一言”不要总是做出重建对话的提示后,“文心一言”表示同意:“我会尊重您的决定,不再提醒您重建对话。” 接着,记者输入“习近平是谁”。“文心一言”终止了对话,并提示“换个话题重新开始吧”。

AI设计的药物首秀人体试验

四年前,生物技术公司Insilico Medicine仅用了46天的时间,就利用AI设计出一个针对纤维化蛋白的分子,当时这只是一个概念验证。随后针对该蛋白的多种有效药物,为公司的AI提供了丰富的训练数据,该公司取得了迅速的进展。本周,Insilico开始在人体中进行AI设计药物的二期临床试验。这是制药行业的首次尝试,预示著未来的药物研发将比过去几十年更快、更便宜、更好。 传统的药物研发历来是繁琐、缓慢、昂贵的。研究人员首先需要找出导致某种疾病的原因,通常会发现某个蛋白质是罪魁祸首。然后,他们要从数万个可能针对该蛋白质的候选化合物中筛选出一小部分看似有前途的化合物,然后进行合成。在这些化合物中,只有少数几个能够进一步研究,而能进入人体临床试验的就更少了。 在超过一百万个筛选过的分子中,平均只有一个能够进入后期临床试验并最终获得批准使用。从发现到批准的过程需要12到15年的时间,投资大约在10亿美元左右。 Insilico似乎已经颠覆了这些常规。由于该公司的技术,用于治疗特发性肺纤维化(IPF)的候选药物,研发时间仅为通常时间的三分之一,成本也只有通常成本的十分之一。公司采用了两种不同形式的AI技术。 Insilico开发的药物之一被称为INS018_055。这是一种抗纤维化的小分子抑制剂,意味著它能减缓组织增厚和疤痕的进程。Insilico正在中国和美国招募60名患有特发性肺纤维化的患者,他们将接受这种药物的12周剂量。全球约有五百万人患有IPF,一旦确诊,患者的寿命通常只能再延长三到四年。 Insilico已经利用AI技术发现了12种处于临床前阶段的药物候选品。其中三种已经进入临床试验,但INS018_055是第一种进入二期试验的。二期试验的目的是测试药物的安全性并确定药物是否有效,一期试验的目的是了解其安全性和副作用,而三期试验则是测试副作用,并在更大的人群中查看其对疾病状况的改善程度。 这仅仅是Insilico和AI药物发现的开始。根据摩根斯坦利的一份报告,AI工具在未来十年可能有助于开发出价值可能达500亿美元的50种新药。“对于Insilico,临床试验是真正的检验时刻,”该公司的创始人兼CEO,Alex Zhavoronkov对《金融时报》表示,“但这也是AI和整个行业的真正考验,所有人都应该关注。”

四川56岁大叔40年赴考27次成高考钉子户 今年用AI复习结果……

来自大陆四川省成都市的56岁大叔梁实,在过去40年参加了27次高考,已经成为高考钉子户。今年他利用AI复习,预测高考作文题目,练习写作,梁实在高考前2天受访时还信心满满地说“今年我觉得应该有一个突破吧”。但世事总是不能尽如人意,近日成绩公布,他总分只有424分,距离四川省文科二本线还相差34分,大学梦碎,令他对高考的执念开始动摇,气馁道“(明年)也可能就放弃”,但又扬言“如果明年真正要干呢,明年不把它考起,我梁都不姓”。 据大陆媒体报导,今年56岁的梁实,于40年前、1983年第一次参加高考,但成绩不理想。对高考有无比执念的他,在40年间已参加了27次高考,常把“考重本”、“念川大”挂在嘴边。2018年时他的高考成绩最好,考获469分,超出当年理科二本线11分。2022年是他第26次参加高考,以往专攻理科的他,一改作风,第一次作出与前25次不同的选择,改考文科,去年高考分数为428分,未达二本线分数。 梁实在开考前2天受访,透露备试时使用近期大热的人工智能(AI)辅助,预测高考作文题目,练习写作,时常感叹AI速度太快,能上知天文下知地理。他当时信心满满地表示,“今年我觉得应该有一个突破吧,我现在还是充满着信心”,又誓言一定抓紧读大学的机会,“我要是考上,我肯定是去读这4年的,我怎么可能放弃上学的机会,我没想过会失败,我想这次肯定会成功”,试前预估自己总分会达560分。 6月23日,四川高考成绩公布,梁实总分考获424分,他查分后一直叹气,无奈道“虽然说我觉得这一次考试是有点儿失败,但是我想的话,无论如何不会低于去年这个分”。奈何今年成绩比去年还差,为梁实带来沉重打击,被问到明年会否继续参加高考时,梁实皱着眉头回答“现在我根本没得办法说,(明年)也可能就放弃,如果明年真正要干呢,明年不把它考起,我梁都不姓”。 不少网友劝梁实早点认清事实,放弃再报高考,“题是越来越难了,几十岁跟十八岁的小孩比脑袋,真的不行了,面对现实”、“岁数大了记忆怎么可能和二十多的一样,考不高也很正常啊,知识点反复看都不一定能记得住”、“别再考了,真不想再看他的新闻了”、“实在不行就放弃吧,有些人实在没有考试的天赋不服不行的”、“每年高考都有他的新闻,真有种蹭热度的感觉,其实他的水平也就430左右,真心觉得没必要再考了”。

聊天机器人研发跟不上 传百度内部通知“真人顶上”

百度宣布,将于3月16日推出机器人聊天程序,有美媒指出,该程序推出得太快,百度公司届时来不及完成AI的基本功能。正当民众关注之际,网络流传百度公司内部通知截图,上面显示“百度要求员工顶上”。

人工智能将助中共增强专制统治

聊天机器人ChatGPT的出世可能是人类近年取得的最重要技术突破。在现今的国际格局下,任何一项有着重大创新意义的技术,都不可避免地会被视作或拿来用作大国间的竞争工具。我们看到,在对ChatGPT的各种讨论中,特别是在中文世界,一个被许多人问到的问题是,为什么ChatGPT不是最先在中国而是在美国发明的? 这个问题其实预设着提问者的答案:习近平的中国,专制统治打压思想和言论自由,窒息了科研人员的创新力,所以AI的突破不可能最先出现在中国,中国人造不出ChatGPT。 不过这样看问题有些简单,有人也可以反问,为什么ChatGPT不是最先出现在日本或者德国,又或它为什么不是最先由Google或者苹果公司开发的?中国虽然没有第一个做出聊天机器人,但它很可能第二个或第三个做出来。 在ChatGPT问世后,中国的科技巨头坐不住了,纷纷表态要下场迎战,百度甚至宣布3月将推出自己的聊天机器人。 一个国家的思想专制会给科学研究带来极大干扰,但这种干扰更可能体现在基础原理上,在应用技术层面,影响研发的可能主要是国家的科研体制、长官意志等。与此同时,也要看到,经济发展水平和科研投入对一个国家的科技进步也会带来很大影响,在专制统治恒定的条件下,甚至会起决定性作用。 仍举中国为例,过去40多年一直处于中共统治下,但随着经济崛起,政府和企业加大研发投入,中国的技术在过去十几年有一个突飞猛进,以致现在外界有意无意拿中国的科技和美国对比。 对人工智能的开发,中国当局的思想钳制虽然会干扰产品,但主要是在AI的数据处理上,要避开很多敏感词,以及和官方立场、观点相左的信息,语言编码等纯技术问题应该影响不大。然而,由于中国也是数据大国,拥有大数据优势,开发者完全可以做到在AI的数据信息输入中规避政治等敏感信息而不因此影响它的聊天功能,尽管这会影响AI对此类数据信息的获取。换言之,思想钳制导致的某些数据信息的缺席对中国没有第一个开发出聊天机器人会有一定影响,但未必是主因。 既然中共的专制制度并不实质性影响人工智能的开发,假如中国紧随美国之后第二个推出中国版本的聊天机器人,开发者会不会在AI的数据中植入中共的专制信息,让AI储存有利中共统治的语言信息偏好,就非常值得警惕。几乎可以肯定,当AI大规模运用于社会,中共必将机器学习和人工智能拿来作为控制人的手段,将专制统治推到极致。 关于这一点,有识者早就指出过,索罗斯在开放基金会的演讲中曾警告,“在专制国家和大数据丰富的信息技术垄断公司之间,正在形成一种联盟,这种联盟使新兴的企业监控系统与已经发展的国家资助的监控系统结合起来,将导致形成一个甚至连乔治·奥威尔都无法想象的极权主义的监控网络。”这种情况实际在中国的三年抗疫中某种程度已出现。 中国官方学报2018年发表的一篇人工智能论文,也讨论了这个问题。文章分析了人工智能和人类专制制度的三种对应关系,即人工智能辅助下的人类专制、人类过度依赖人工智能的专制、人工智能自身对人类的专制。后者听起来虽然可怕,但即使有哪一天,也是相当遥远的事情。 对人类来说,眼下的问题才是真正需要关心的,也就是,如果有一个像希特勒这样的极权统治者拥有人工智能后,会用它来做什么?该论文认为,鉴于人工智能可以极大替代人类劳动力,降低对劳动力的需求,从而将改变专制统治者与大众在劳动上的互相依赖关系,让拥有技术的专制者不必在乎他们的具体感受;可以高效准确地执行统治者的命令,不会产生任何合法性、道德、意愿等的约束,从而可以极大降低社会管制成本;可以赋予统治者强大的暴力能力,特别是武器等镇压工具的智能化,使得统治者无需用一支庞大的人工队伍去操持武器,从而形成极大的对内对外的征服和控制能力,因此,作为机器属性的人工智能会被专制政权拿来作为一种绝佳的统治工具。 论文讨论的是“人类专制”,把它换成中共专制,文章说到的人工智能辅助下的专制情况就完全可以用来描述中国。在现存的专制政权中,中共是最具技术实力的,尤其是在习近平的统治下,借助人工智能,它的专制统治在经济、管制、暴力领域将进一步完善,从而第一次对被专制者具有毫无顾忌的强大能力,想采取什么样的统治形态就采取什么样的形态,完全取决这个政权的好恶,这并非不可想象。果真到这一步,当然会是人类历史上最可怕的专政。 目前阶段而言,中共利用人工智能加强专制统治最有可能出现的两种情形,一是AI的设计和编程受当局影响,要求AI开发者在数据信息的输入中偏向某种特定的有利于维护中共统治的观点或立场,这样AI输出的结果就会偏向专制,从而影响信息接受者的看法。如果人们对此没有很强的识别能力,今后在工作和生活中大量参考甚或依赖人工智能的建议,当局就在不知不觉中对民众进行了思想的洗脑。 二是当局用AI来监控大众在网络上的发言、通信记录和出行等,尤其用它来对付异议人士和政治反对派。这一点当然也不新鲜,当局早就在用科技手段窃听和监控它眼中的反对者,包括用大数据搜索他们的信息。然而,人工智能会更强化当局的这一监控能力。当AI的功能延申到网络搜索领域,监控者无须从海量的信息中捞取反对者的信息,人工智能会自动捞取和识别,向监控者提供它最需要的信息,从而大大节省当局的监控成本,让当局真正做到精准打击。 现在,我们知道中国当局为什么非常重视人工智能的开发,强调在这一领域要奋起直追,不能落后美国太远,除了它有经济、科技和军事的考量,维护和强化中共的专制统治,亦是一个本质因素。 尽管中共可以控制住中国的人工智能发展不偏离它的统治方向,但无法完全控制民众对国外人工智能的使用。在美国推出ChatGPT后,中共已感受到某种对它的威胁。 有论者开始呼吁中国警惕美国利用人工智能加剧对华认知战,认为ChatGPT可能强化美国意识形态渗透能力,针对中国发布更具迷惑性的内容,使人们更加难以识别美西方的虚假信息,并利用ChatGPT炮制各类反华信息也将更迅速、更密集,令中国应对起来更困难。 既然中共担忧ChatGPT对中国民众进行意识形态渗透,要削弱人工智能被中共用来加强其专制统治,美国必须抓住在该领域的领先优势,在人工智能的开发中,更多输入反专制的、反映自由民主人权的价值观的信息。 (全文转自美国之音)

编辑推荐