人工智能的“偏見”能否消除
圖為桑達爾·皮查伊5月14日在加州山景城舉行的谷歌I/O大會上發表講話。自從谷歌對其搜索頁面進行改造，經常將AI生成的摘要放在搜索結果頂部，社交媒體上就出現了一些令人不安的錯誤消息。圖片來源：物理學家組織網2024年4月，在盧旺達基加利GIZ數字化轉型中心舉辦的“非洲女孩也能編程”項目的編程訓練營中，年輕女性參與者在用筆記本電腦工作。圖片來源：聯合國婦女署據英國《新科學家》網站近日報道，在提供購房和租房建議時，AI對黑人用戶傾向于推薦低收入社區，這一行為被指存在種族偏見，映射出美國歷史上長期存在的住房歧視問題。隨著人工智能（AI）技術不斷發展，其潛在問題也日益凸顯。ChatGPT等AI大模型頻頻暴露出的偏見和歧視傾向，正是這一問題的縮影。AI也有性別歧視聯合國婦女署官網5月22日報告指出，美國加州伯克利大學哈斯商學院一項研究，分析了不同行業的133個AI系統。結果顯示，約44%的系統表現出性別刻板印象，25%同時表現出性別和種族......閱讀全文
看完這篇《Science》我竟無言以對，居然連性細胞都有偏見了
賓夕法尼亞大學的研究小組通過小鼠卵母細胞（卵細胞的前身）實驗，發現了一個驅動減數不對稱分裂的分子信號。證明女性卵細胞存在“右傾”偏見。 幾十年來，科學家們冥冥之中感覺到減數分裂過程中的各種遺傳因素似乎參與了一場無聲的戰斗。因為，有些基因傳遞的幾率高于“偶然概率”，這一現象的專業術語是“減數分裂
人工智能揭示刻板印象隨時代而變
圖片來源：Debrocke/ClassicStock 當過去的已經逝去，你又如何衡量那時的陳腔濫調如何變化？你可以閱讀人們寫作的東西，并記錄下這些刻板印象，但偏見往往比一個簡單的詞語更加微妙。 研究人員如今正在開發人工智能用來幫助解決這個問題。一項新的研究分析了這些刻板印象
這一年，人工智能在爭議中前行
2018年，人工智能告別喧鬧，投融資市場漸趨冷靜，底層技術研發持續推進，從衣食住行到教育醫療，人工智能全方位改變著生活的樣貌。 近日，由斯坦福大學主導、來自MIT、OpenAI、哈佛、麥肯錫等機構的多位專家教授聯合發布的人工智能指數年度報告出爐，報告顯示，在人工智能這一領域，美國依然是當仁不
人工智能倫理－南半球“失聲”
為研究全球人工智能倫理狀況，巴西研究人員對全球人工智能使用指南進行了系統審查和薈萃分析。他們發現，雖然大多數指南重視隱私、透明度和問責制，但很少重視真實性、知識產權或兒童權利。此外，大多數指南描述了道德原則和價值觀，但并未提出實施方法，也沒有推動具有法律約束力的監管。相關研究近日發表于生物學、化
心理所揭示入侵性文化混搭對文化群體間內隱偏見的影響
隨著全球化的推進，我們在生活中有越來越多的機會同時接觸到多種文化。當兩種及以上的文化元素同時出現稱為文化混搭（Cultural Mixing）。文化混搭是近年來非常常見的現象，在生活中比比皆是，例如星巴克的月餅和粽子，古街上的麥當勞和星巴克等等。不同類型的混搭元素會給人帶來不一樣的心理體驗。中國
網上斷病，這輪AI行不行？專家：模型尚不完善
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504964.shtm ???圖為研究團隊的方法和現有技術的比較。Flan-PaLM 540B模型在MedQA，MedMCQA和PubMedQA數據集上均超過了以往最先進的SOTA，每列上方顯示的是
科學家評估大型語言模型回答醫學問題的能力
圖為研究團隊的方法和現有技術的比較。Flan-PaLM540B模型在MedQA，MedMCQA和PubMedQA數據集上均超過了以往最先進的SOTA，每列上方顯示的是準確率百分比。 你在網上搜過“我哪哪疼是不是得了啥啥病”嗎？答案可能不盡如人意。但隨著ChatGPT等大型自然語言模型（LLM）
人工智能應加強教師角色，而非取而代之
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/518422.shtm?■郭英劍2022年底以來，人工智能（AI）的迅速崛起給經濟和文化層面帶來了巨大沖擊，也在各行業掀起巨大波瀾，教育行業，特別是高校更在其列。本文中，我將結合寒假期間在美國哈佛大學從事學
人工智能會談判
英國倫敦深度思維公司的一項研究表示，人工智能（AI）代理可談判和形成協議，使其在桌面游戲《外交》中勝過其他無此能力的代理。這些發現展示了一種深度強化學習方法，用其建模的代理可以與其他人工代理溝通和合作，在玩游戲時共同制定計劃。相關結果近日發表于《自然—通訊》。 開發能展現出代理間合作和溝通的人工智能
人工智能如何“向善”
一段時間以來，以ChatGPT為代表的人工智能大模型攪動了全球人工智能技術發展的浪潮。從寫代碼到講故事，從撰寫文章到自動制作數據表格……人工智能正在給人類的工作、學習、生活帶來諸多變化。 我們距離“無所不能”的通用人工智能還有多遠？人工智能的發展帶來哪些安全隱患和挑戰？近日召開的2023北京智源大
“人工智能+”，加什么？
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519704.shtm去年，AI語言大模型ChatGPT的誕生引發了全球人工智能浪潮，隨著視頻生成模型Sora的發布，以AIGC（Artificial Intelligence Generated Cont
第十八屆國際知識組織大會召開
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519596.shtm3月20日，由武漢大學信息管理學院和武漢大學信息資源研究中心共同主辦的第十八屆國際知識組織大會在武漢召開。會議以“危機時期的韌性知識組織:挑戰與機遇”為主題，旨在探討系統化、靈活的知識
OpenAI－CEO：未來人類不必掌握計算機科學
看好人形機器人、未來不必再掌握計算機學、將推理引擎與數據中分離……繼哈佛、斯坦福大學之后，奧特曼的美國高校之行仍在繼續。當地時間5月2日，人工智能（AI）巨頭OpenAI?CEO山姆·奧特曼（Sam Altman）來到麻省理工學院（MIT），探討人工智能的未來。山姆·奧特曼在麻省理工學院訪談對于“末
七部門聯合公布《生成式人工智能服務管理暫行辦法》
近日，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行。國家互聯網信息辦公室有關負責人表示，出臺《辦法》，旨在促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護
人工智能再次戰勝人類，人工智能強勢闖入醫療界
人工智能技術在物流、醫療、金融、產業物聯網等很多領域都有現實應用。對于關乎每個人健康的醫療領域而言，不管醫生是不是接受，人工智能已強勢闖入醫療界。 最近有兩條消息再次把人工智能推向了高潮： 1.2017兩會中人工智能第一次出現在政府工作報告中，關注人工智能的科技界因此熱血沸騰。 2.世界癌
人工智能體會走捷徑
? 圖片來源：DeepMind 本報訊 稱，一種最新研發的計算機程序具有類似哺乳動物一樣的尋路能力。該研究同時也為理解人腦的運作提供了更多見解。 神經網絡——以人腦為模型的計算機系統——能夠執行大量令人驚嘆的任務，如物體識別，但是在尋路方面的表現卻不盡如人意。人腦的尋路功能依
人工智能，用好才好用
?? 為期3天的2018中國互聯網大會12日在北京閉幕，與會專家學者就互聯網前沿技術、產業發展態勢話題進行了研討。大會期間，一系列以移動物聯為核心的科技成果亮相，人工智能成為討論焦點。 “通過視頻解碼，再結合裸眼3D顯示技術，你以后能在清晰度達到8K的電視上看世界杯了。”在中國聯通的展區，工
人工智能如何更“社會”？
2018年，人工智能在無人駕駛汽車領域“連續撞車”，多家公司出現了安全事故，人工智能技術在安全、隱私等諸多方面挑戰，人們開始質疑，“人工”和“智能”究竟能否和諧相處？ 在這種焦慮情緒的影響下，人們開始思考人工智能未來的走向。日前在北京召開的新興科技峰會上，這一話題受到了專家的廣泛關注。 在
人工智能“錢”路何方
同一天，兩家人工智能（AI）企業“冰火兩重天”。 10月11日，有光科技宣布，該公司已獲得AEF大灣區創業基金（由戈壁大灣區管理）新一輪投資，以進一步拓展其業務區域。 與此同時，港股上市的商湯科技早盤沖高回落，午后震蕩走跌，再次創下歷史新低。截至收盤，其總市值為445.6億港元，遠低于其Pr
人工智能助力藥物研發
人工智能工具能幫助科學家規劃多步驟化學反應。圖片來源：Roger Mayne Archive/Mary Evans Picture Library 化學家有了新的實驗室助手：人工智能（AI）。研究人員開發出一種深度學習計算機程序。其可產生創建諸如藥物化合物等小型有機分子所需的反應序列“藍圖”。表面
人工智能“自學”做翻譯
得益于神經網絡——從人腦獲得靈感的計算機算式——的發展，自動化的語言翻譯已經存在了相當長一段時間。但訓練這些網絡需要海量數據：數以千萬計的逐句翻譯，以展示人類如何做這項工作。現在，兩篇新論文表明神經網絡可以在無需平行文本的情況下學習翻譯——這一令人震驚的進展或讓人們獲得許多不同語言的文獻記錄。
人工智能會放氣球
??現在，人工智能有了新本領：放氣球。 根據《自然》12月3日發表的一篇論文，一種人工智能控制器能讓平流層的氣球一連數周待在原地。該研究結果代表了深度強化學習向現實世界應用邁進了非常難得的一步，提高了全自動環境監測成為現實的可能性。 填充氦氣的“超壓”氣球常被用來在高層大氣中開展實驗，比如氣
可信可控可用，人工智能呼喚創新的“治理技術”
“人工智能改變了安全格局，進一步擴大了威脅，需要從多個層面進行風險管控。”在近日舉辦的第三屆人工智能合作與治理國際論壇上，針對目前人工智能帶來的風險和挑戰，中國工程院院士、鵬城實驗室主任高文認為，應當在人的層面應加強倫理教育；在模型算法層面，期望它可信、可控、可解釋并且被正當使用；在數據層面，期望數
人工智能改變未來（關注·透視新一代人工智能①）
不久前，中共中央政治局就人工智能發展現狀和趨勢舉行第九次集體學習。習近平總書記在主持學習時強調，人工智能是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的“頭雁”效應。加快發展新一代人工智能是我們贏得全球科技競爭主動權的重要戰略抓手，是推動我國科技跨越發展、產業優化升級、生產力整體
人工智能將超越人類大腦？要不要向人工智能低頭
低頭不是容易事，如果對方還是你的創造物，只怕更窘。但科學家現已開始不斷提醒我們，要為這件事做點準備了——如果說此前的警告是還有一兩個世紀的光景，現在已經銳減為不到50年。 美國科學家庫茲韋爾，被主流商業報刊《Inc.》評為“愛迪生的合法繼承人”，他作出的推算是：在2045年，人工智能(AI
“刷臉”窺見遺傳病：深度學習算法助疾病診斷
去年8月的一天，美國特拉華州威爾明頓市內穆爾/阿爾法雷德愛杜邦兒童醫院醫學遺傳學家Karen Gripp接待了一位年僅4歲的患者。 這個小女孩雖比同齡孩子稍矮，且已經失去了大部分乳牙和幾顆已經長出來的成年牙齒，但并沒有其他明顯的罕見病指征。 Gripp曾閱讀過描述Wiedemann-Ste
《自然》最新研究：人工智能追蹤他人心理狀態能力與人類相當
中新網北京5月25日電 (記者 孫自法)人工智能可否追蹤他人心理狀態？能力如何？施普林格·自然旗下專業學術期刊《自然-人類行為》最新一期發表一篇人工智能研究論文顯示，在測試追蹤他人心理狀態能力(也稱心智理論，Theory of Mind)的任務中，兩類人工智能大語言模型(LLM)在特定情況下的表現與
首屆人工智能安全峰會在英國召開
原文地址：http://news.sciencenet.cn/htmlnews/2023/11/511549.shtm11月1—2日，首屆全球人工智能安全峰會在英國布萊奇利園召開。美國、英國、歐盟、中國、印度等多方代表在兩天會期內，就人工智能技術快速發展帶來的風險與機遇展開討論。 首屆全球人
世衛警告醫療AI對貧窮國家構成危險
世界衛生組織（WHO）警告稱，引入基于人工智能（AI）的醫療保健技術可能對低收入國家人群是“危險的”。 據《自然》報道，WHO于1月18日發布了一份大型多模態模型（LMMs）新指南，指出技術的使用和開發不能只由科技公司和富裕國家決定，這一點至關重要。該機構表示，如果沒有根據資源不足地區人們的數
失控的人工智能可能威脅人類？
一封由科技界一些知名人士簽署的公開信正在引起全球關注和關于人工智能倫理的激烈討論。 信中說，最近幾個月，人工智能實驗室在開發和部署更強大的數字思維的競賽中失控，沒有人，甚至他們的創造者，能夠理解、預測或可靠地控制。 在題為“暫停巨型人工智能實驗：一封公開信”的信中，簽名者表示，由于擔心“具有