與人工智能相關的立法項目已列入立法規劃﹔專家稱人工智能面臨倫理道德框架、隱私保護等問題

全國政協委員、百度董事長兼CEO李彥宏

立法本身不應該太超前，很多時候新事物剛剛出現，讓它稍微跑一段時間然后再總結經驗，找到規律再來立法。其次，在不同的領域，涉及的立法都不一樣，比如說像無人駕駛，在過去就沒有相關的法律。

全國人大代表、科大訊飛董事長劉慶峰

人工智能立法首先要保障人類的生命和財產安全，也就是說人工智能一定是要在風險可控范圍內來使用，比如說在自動駕駛領域，它的應用門檻和標准是什麼﹔在醫療領域，人工智能要達到一定的准確度，而且最好通過一定的資質認証。

3月4日上午,十三屆全國人大二次會議舉行新聞發布會，大會發言人張業遂表示，已將與人工智能密切相關的立法項目列入立法規劃。

張業遂稱，全國人大常委會已將一些與人工智能密切相關的立法項目，如數字安全法、個人信息保護法和修改科學技術進步法等，列入本屆五年的立法規劃。同時把人工智能方面立法列入抓緊研究項目，圍繞相關法律問題進行深入的調查論証，努力使人工智能創新發展，努力為人工智能的創新發展提供有力的法治保障。

從2017年首次被寫進政府工作報告，到去年受到多位兩會代表委員關注，人工智能儼然已經成為兩會的焦點。2018年國務院總理李克強作政府工作報告時提到，發展壯大新動能。做大做強新興產業集群，實施大數據發展行動，加強新一代人工智能研發應用，在醫療、養老、教育、文化、體育等多領域推進“互聯網+”。

隨著人工智能的迅猛發展，其對社會、經濟、文化等領域已經產生越來越深遠的影響。同時，人工智能面臨倫理道德框架、隱私與安全保護等問題，為了讓人工智能實現健康發展，急需一套完善的法律體系與之匹配。

從追趕到全球領先

雖然人工智能最早的浪潮起源於上世紀50年代的美國，但經歷了近70年來的曲折發展，中國已經成為全球領先的人工智能大國。根據聯合國下屬的世界知識產權組織（WIPO）公布的研究報告《技術趨勢2019：人工智能》顯示，在全球人工智能領域的競爭中，中國和美國處於領先地位。

報告指出，AI專利申請最多的前20家科研機構中，有17家來自中國﹔AI相關科學出版物數量排名前20的科研機構中，10家來自中國。全球前30名AI專利申請方中的4家科研機構，有3家來自中國。

另據CNNIC第43次調查報告顯示，截至2018年6月，我國人工智能企業數量已達到1011家，主要集中在北京、上海和廣東。其中，北京擁有395家企業，成為全球人工智能企業最多的城市。

去年，習近平總書記在中共中央政治局第九次集體學習時強調指出，加快發展新一代人工智能是我們贏得全球科技競爭主動權的重要戰略抓手，是推動我國科技跨越發展、產業優化升級、生產力整體躍升的重要戰略資源。

他在講話中特別指出，人工智能具有溢出帶動性很強的“頭雁”效應。“在移動互聯網、大數據、超級計算、傳感網、腦科學等新理論新技術的驅動下，人工智能加速發展，呈現出深度學習、跨界融合、人機協同、群智開放、自主操控等新特征，正在對經濟發展、社會進步、國際政治經濟格局等方面產生重大而深遠的影響。”

立法工作有待加快

中國在熱情擁抱新一輪人工智能熱潮的同時，從政府部門到產學研各界對於人工智能發展所涉及的法律及倫理問題給予了高度關注。2018世界人工智能大會開幕式上，習近平總書記強調，處理好人工智能在法律、安全、就業、道德倫理和政府治理等方面提出的新課題。

與電商法歷時5年才正式落地不同，人工智能立法更早被兩會代表委員關注。去年兩會期間，全國政協委員、百度董事長兼CEO李彥宏就在提案中表示，希望國家出台政策鼓勵人工智能的開放平台與加速自動駕駛相關立法。

目前，中國人工智能的總體政策在2017年7月國務院發布的《新一代人工智能發展規劃》中得到體現，但該規劃只是要求對人工智能在部分領域初步建立倫理規范和政策法規，尚未上升至法律層面。由此可見，人工智能的立法仍有待加快。

全國人大代表、湖北得偉君尚律師事務所首席執行合伙人蔡學恩認為，在人工智能行為倫理道德框架、人工智能應用相關的民事與刑事責任確認、隱私和產權保護、信息安全利用等問題上的研究均需要加強。

立法有何挑戰？

人工智能的立法需盡快提上議程，但亦應注意到人工仍屬於新生事物，如何把握適當的邊界是關鍵，尤其是考慮到人工智能可以應用到金融、醫療、交通等多個場景中，出台一部總括性的法律可能會阻礙人工智能的發展。

今年兩會前夕，李彥宏在接受新京報記者採訪時就表示，人工智能立法本身不應該太超前，“很多時候新事物剛剛出現，讓它稍微跑一段時間然后再總結經驗，找到規律再來立法。”

李彥宏表示，在不同的領域，涉及的立法都不一樣，比如無人駕駛，在過去就沒有相關的法律。“北京市很重視無人駕駛，很快有相應的法律來保障我們的創新能夠有序進行。”

全國人大代表、科大訊飛董事長劉慶峰亦向記者表示，以AI+醫療為例，雖然機器給病人診斷的平均准確率比一些基層的農村醫生要高，但是從法律層面來說機器不能給病人看病，因此更多的時候是將機器得出的結論交給醫生，讓醫生來做決定。 本版採寫/新京報記者 陸一夫

■ 訪談

李彥宏：人工智能立法不能太超前

讓它跑一段總結經驗再立法﹔無人駕駛、智能醫療等領域都需要立法

全國政協委員、百度董事長兼CEO李彥宏今年的三項提案均與人工智能相關，分別是構建智能交通解決方案，讓老百姓出行更順暢﹔完善電子病歷管理制度，促進智能醫療應用探索，助力“健康中國”戰略實施﹔加強人工智能倫理研究，打造智能社會發展基石。

新京報：關於人工智能立法，你有哪些建議？

李彥宏：首先，我覺得立法本身不應該太超前，很多時候新事物剛剛出現，讓它稍微跑一段時間然后再總結經驗，找到規律再來立法。其次，在不同的領域，涉及的立法都不一樣，比如說像無人駕駛。北京市很重視無人駕駛，很快有相應的法律來保障我們的創新能夠有序進行，到今天百度已經拿到了50張左右的自動駕駛測試車証。

醫療方面也需要相關的立法，統一電子病歷的格式，必須要有什麼樣的字段，要有什麼樣的內容，不同的醫院、機構之間進行交換，必須保護患者的隱私等等，都應該通過立法的方式來解決。

新京報：如何解決互聯網和AI發展過程中遇到的數據孤島的問題？

李彥宏：以電子病歷為例，大多數好的醫院都有電子化病歷。但是這些病歷相互之間沒有打通，我在這個醫院看病之后，到了另外一個醫院還要重新做一遍檢查。我覺得確實需要通過政府的力量制定相應的標准，來推動數據共享。

新京報：在這個過程中怎麼去保護用戶的數據隱私？

李彥宏：在共享的過程當中，我們需要特別注意保護用戶的隱私，我覺得道理上大家都認可，關鍵還是看執行的過程當中能否有一個好的機制來約束。

百度內部若干年前提過兩個詞，一個叫“平台化”，一個叫“接口化”。平台化是指，我做一個東西，就爭取把它做成一個平台，可以供其他部門的人使用。接口化是指把我的能力開放給你，我告訴你我的平台能干什麼，但是我不把背后的數據、源代碼給你。這樣一來，數據得到了保護，知識產權得到了保護。

通過平台化、接口化的方式，把邊界定義清楚，什麼人可以獲得什麼樣的信息，獲得什麼樣的能力。然后通過一個平台，或者是多個平台來提供這些能力。

新京報：你認為，人工智能行業存在哪些問題和挑戰？

李彥宏：我覺得大家對人工智能還是有很多誤解，兩方面的誤解都存在。有一些（對技術發展速度）比較樂觀的人擔心，人工智能一旦有了意志的話，會不會對人產生控制的能力。我覺得這個擔心其實是沒必要的，人工智能離這一步其實還非常遠，我的判斷是永遠達不到。

另外一個極端是，人工智能其實現在能做的有意義的事情還不夠多，市場還處在早期的階段，所以不夠重視，這也挺危險的。人工智能的推動作用更多的是在生產端，可以大規模提升生產制造效率。如果一些企業不能及早地意識到人工智能在這一方面能夠起到的作用，是有可能被淘汰的。

新京報：在你看來，人工智能行業是不是存在一定的泡沫？

李彥宏：人工智能領域肯定是有泡沫，而且泡沫還不小。任何一個新的趨勢到來的時候大家都會感興趣，一擁而上。無論是投資也好，創業也好，或者是大的公司研發方向的調整，都會向著這個新的趨勢去走，所以一定會產生一些泡沫。隻有這樣大家都一起上的時候，才能夠推動這個產業迅速地走向成熟。

人工智能行業走向成熟的過程是一個優勝劣汰的過程，剩下的一定是少數公司。我覺得這是一個很自然的過程。

今天大家講的十個技術裡面，可能有九個將來會証明其實沒什麼價值，但是有一個技術最后慢慢被打磨成了非常有價值的技術。大家需要有這種心理准備，今天很熱的一些公司，可能十個裡面有九個在五年以后就不存在了。 新京報記者 馬婧

■ 訪談

劉慶峰：立法首先要保障人類安全

人工智能的立法核心一定要以人為本，這是立法的根本﹔立法應更有針對性

新京報：人工智能時代會對現有法律體系產生哪些新挑戰？

劉慶峰：我覺得人工智能立法的挑戰有兩方面，一是目前在原來法律體系中並沒有人工智能方面的法律法規，人工智能是新物種，它所帶來的積極幫助或者潛在風險都是人類沒有碰到過的，而法律體系的討論調研到最終制定存在一個比較漫長的過程。

二是人工智能的發展日新月異，法律體系如何做到與時俱進，盡快滿足人工智能產業發展和社會健康進步的需要，確實存在很大的挑戰，這主要體現在人工智能對生產和生活方式的改變是全新的，其次是人工智能的變化非常快。

新京報：對於人工智能立法，你有哪些建議？

劉慶峰：人工智能的立法核心一定要以人為本，這是我們立法的根本。我認為，人工智能立法首先要保障人類的生命和財產安全，也就是說人工智能一定是要在風險可控范圍內來使用，比如說在自動駕駛領域，它的應用門檻和標准是什麼﹔在醫療領域，人工智能要達到一定的准確度，而且最好通過一定的資質認証。

第二是人工智能應該兼顧未來社會人文的需要，倡導人機耦合的模式，簡單說人工智能是幫助人的，而不是替代關系。在人機耦合上，我們要考慮到以人為本，未來人和機器是如何協作的。例如在醫療上我們叫人工智能系統為輔助診療系統醫生助手，在法律上叫人工智能為刑事案件輔助審判系統。

第三是人工智能立法對很多老百姓來說還是陌生的，對技術也不是特別了解，所以人工智能在立法的同時需要有檢測手段，在檢測人工智能安全性上必須要有測試標准和方法，這樣才能使立法落到實處。

新京報：考慮到人工智能的應用跟很多的領域相結合，立法時是否應該更具針對性？

劉慶峰：人工智能立法應該要有針對性，就像制藥一樣，任何的藥物生產出來都要有臨床過程，通過技術分析証明它具備藥效，通過臨床驗証后再進行大規模的推廣。我覺得人工智能也是這樣，立法時先在一定范圍內進行試點，試點通過驗証才可以去大規模落地。

人工智能應用必須要遵循這個邏輯，而不是說大干快上，最終導致行業泡沫過多，也容易在應用過程中帶來不必要的傷害，從而影響人工智能健康發展。

像習總書記說的，人工智能具有非常強的頭雁效應，未來社會將從互聯網+進化到人工智能+時代，各行各業都可以用人工智能深刻改變現在的生產和生活方式。對於行業裡的頭部企業，需要有更多的支持和關心。

新京報：解決數據孤島問題的同時，如何保護用戶隱私？

劉慶峰：首先是法律要同步跟上，其次是企業要有更強的保護意識，現在已經有很多服務涉及老百姓的日常生活。因此相關行業的領軍企業要做到表率作用，不僅僅是向用戶進行告知，還包括價值觀層面的指引。

第三，目前很多數據都是在用戶不知情的情況下被企業拿走，從技術層面看，我們應該通過人工智能技術的發展給予用戶更多的選擇權，例如訊飛的翻譯機，考慮到機密信息可能泄露，公司在設計產品的時候就做了離線翻譯的版本，這是非常必要的。

新京報：中國在人工智能領域處於領先位置，應該如何保持先發優勢？

劉慶峰：中國要保持目前的優勢，就要以應用促進人工智能發展，在兼顧保護和共享數據之間推動人工智能更好地成長。歐洲就是把數據管得過嚴，影響人工智能的發展。我認為，數據的適度管理尺度以及典型應用場景的快速突破，能夠形成數據和應用場景的良性互動，最終實現人工智能上的領先優勢。

中國要持續保持人工智能發展，應對人工智能的第三次浪潮，未來還需要更大的突破，例如要在源頭技術創新上加油，進一步推動人工智能技術在應用方面的落地，在人工智能未來的發展中要做更多的前瞻性、基礎性的布局，才能夠在人工智能領域保持領先，我覺得這是非常關鍵的一步。 新京報記者 陸一夫

分享讓更多人看到