人工智能高端人才應有社會責任感和國際視野 天天觀點

近期，我經常被問到這樣一個問題：為了引領未來人工智能的發展，中國人工智能人才培養需要做哪些準備？這也是“院士專家企業一席談”論壇所要探討的主題——構建人工智能高層次人才培養新體系和開放合作新平臺、探索人工智能倫理治理新模式。

人工智能領域的人才應該對社會負責任

(資料圖片)

談到人才培養，2018年我在中國科學院大學開設《人工智能哲學與倫理》課程時，就引發了爭議。爭議之一是為什么要在工科院系講授人文科學的內容，爭議之二是人文學科為什么要關注未來技術的發展。如今，人工智能的發展已經給社會帶來了深刻影響，那時候的爭議現在看來已經不再是爭議。

有些人認為，人工智能是中立的，人工智能的善惡由如何使用人工智能決定。這就需要了解人工智能的能力來自哪里。它的能力主要來自人工智能學習的人類大規模數據，數據中有能幫我們解決問題的關鍵線索和事實，也有人類社會中的偏見、歧視、敵對和仇恨。人工智能在沒有倫理安全、道德框架約束時，學習人類數據的同時也學習了人性的弱點，人工智能向人類提供服務時，也潛移默化地隱含了偏見等。

在這樣的前提下，人工智能的倫理和安全以及相關的社會問題就不是一道選擇題，而是內嵌在人工智能研究和產業中的一個與生俱來的基因。因此，未來人工智能領域的人才應該是對社會負責任的。

國際視野下探索中國人工智能走向何方

2019年初，全球多個國家的學術團體制定了人工智能發展的原則。在2018—2019年開展人工智能學術交流時，大家經常會問一個問題——中國的人工智能走向何方？

2019年6月，我國新一代人工智能治理專業委員會制定并發布了《新一代人工智能治理原則——發展負責任的人工智能》，提出了人工智能治理的框架和行動指南。

人工智能是社會性的，是要作為賦能技術聯結不同國家和不同文化的。我覺得，人工智能的發展要從人類自身出發，當代人工智能發展的動機就是人類提出的愿景，這個動機主要在于人類自己，我們發展人工智能的技術、服務和應用，需要人來負責，這點非常重要。

另外，人工智能應該是可持續發展的，人工智能技術不僅要有商業潛能，更關鍵的是要推進社會和生態的可持續發展以及全人類的進步。未來，人工智能要賦能全球可持續發展，不僅需要關注一些具有大經濟效益的方向，而且要在政府的引導下、在學術界的倡議下、在具有長遠目標的企業的推動下，推進那些對中國的發展、全球的發展非常重要的議題。雖然有些方向近期內可能沒有明確的商業動機，但我覺得這正是政產學研協作和長期布局的方向。

重塑人工智能人才培養體系迎接中國機遇

從目前人工智能的發展來看，每一次突破背后都經歷了少數人說服多數人的過程。如果希望未來人工智能的發展迎來“中國時刻”，我們現在必須有高端的學術機構、布局長遠的企業，簡言之，現在就去布局10年甚至10年以上的、少數人從事的研究，做好準備迎接中國機遇的到來。

在此之前，我們還會面臨挑戰。比如，開展小眾布局可能會引起大多數人的反對，這樣的布局在5年甚至是10年內不會取得確定性的突破。

與此相反的觀點不絕于耳，畢竟我國的人工智能產業創新與全世界處于引領地位的國家相比還有很大差別。我們很少大規模、持續地投入，而是在其他國家人工智能取得突破時，再快速地做放大器，長此以往，就沒有機會成為創新源頭，這也是我國人工智能高端人才培養必須解決的問題。

當然，我國不乏優秀的人工智能初創企業，但這些企業首先要關注生存問題，可能沒有時間去考慮太多長遠的問題。我覺得這就需要政產學研協作，進行長遠的布局。

總體而言，人工智能是一個科學問題、一個技術問題、一個社會問題、一個人文問題。人工智能有科學的屬性，需要確立科學的體系，但人工智能科學的體系不僅與自然科學有關，還與人文科學、社會科學密切相關。以前我們經常討論人工智能潛在的風險是什么，如今很多潛在風險已經快速轉為實存風險。

因此，人工智能人才培養體系需要重塑，未來人工智能高端人才不僅是智能信息處理系統方面的專家，還應該精通數學、物理、心理學、神經科學、發育生物學、演化生物學、人類學等，核心是研究自然與人工智能的原理與計算本質。另外，在社會層面，人工智能人才的培養還需要增加人工智能與生命科學哲學、人工智能的倫理與治理、人工智能與社會等方面內容。

技術可以不同方式對人類社會產生影響，可能是積極的，也可能是消極的。人工智能技術、人工智能科學發展的方式，不應該由技術的高度、科學的高度作最終的決定，因為人工智能不僅僅關乎科學，還關乎我們的社會，關乎人類的未來。

（曾毅，作者系中國科學院自動化研究所研究員，中國科學報記者沈春蕾據其在“院士專家企業一席談”論壇上的演講整理）

關鍵詞：