以人為本的AI社會原則
以人為本的AI社會原則
2019年3月29日
統合創新戰略推進會議訂定
第一章 序言
當今社會正面臨著全球環境問題、社會階級差距擴大、資源枯竭等等，與人類生存息息相關的問題。日本則是第一個面臨成熟社會中各項挑戰的國家。諸如少子高齡化、勞動人口短缺、人口外移、財政支出增加等等。而AI將會引導日本找出這些問題的解決辦法、達成聯合國公布的永續發展目標（Sustainable Development Goals, 以下稱SDGs），成為建構永續發展的關鍵科技。
我國（日本）將有效地使用AI來發展經濟、解決社會課題、實現Society5.0、振興社會與經濟活力，以成為具國際吸引力的社會為目標，並以全球規模持續為SDGs貢獻一己之力。
與許多科技一樣，AI為社會帶來龐大利益，相反地也因為對社會產生巨大影響，AI需要適當的開發與社會實踐。為了有效使用AI，同時於事前避免或減輕其負面影響，日本在研究、發展AI技術的同時，將在所有面向重建社會，包括人、社會體系、產業結構、治理等，以建構出能安全且有效使用AI的社會。亦即，必須推動社會變革邁向「AI-Ready社會」。
有關本文件核心議題「AI（Artificial Intelligence, 人工智慧）」的定義，各個專家學者都抱持各種不同看法，故目前尚未有明確定義。例如：在歐盟委員會的人工智慧高級專家組的報告書中定義其為：「對應環境與輸入項的智能行為（有時也有一定的自律功能）系統」。而「智能行為」的實際內容，又與解釋意涵相互依存。此外，在2016年美國發表的報告書AI100中，將AI當作一門學科，引用Nils J. Nilsson的定義如下：「研究製造具有智能的機械，而智能是指能夠適當在環境中觀察的功能」。這項定義仍具有相當大的模糊空間。事實上，該報告書中說明，因AI的定義不明確，反倒加速了AI的研究，於此具有正面意義。有鑑於上述情況，關於該以什麼基準來斷定「AI」或「AI技術」，雖有一定的共識，但是目前仍不宜對其下嚴格的定義。
另一方面，一般稱為「AI」的各種技術，較少以獨立個體應用，通常是作為資訊系統中的一小部分與其他技術結合應用。本文件原則適用情況包括：在高度複雜資訊系統中的各項廣泛AI技術，亦或是對照本原則而囊括相同特徵、課題的「高度複雜資訊系統」。基於此種認知，吾人不去區分特定技術或系統是否屬於「AI」，而是廣泛認定，「高度複雜的資訊系統」囊括了這種特徵與議題，來討論對社會的影響。進而提示AI社會原則的一種理想狀態，列舉出在AI研究開發與社會實踐上應考慮到的問題。為了使即將到來的Society 5.0變得更為良善，相關利益持有者們有必要相互對話並共同合作。
本文件全體架構如圖1所示
| 第二章 基本理念
人類之尊嚴受到尊重的社會(Dignity) 各樣不同背景的大眾皆能追求幸福的社會(Diversity & Inclusion) 具有永續性的社會(Sustainability) 第三章 實現社會5.0之必要的社會變革「AI-READY社會」 「人」、「社會體系」、「產業結構」、 「創新系統 (支援創新之環境)」、 「治理」 第四章 以人為本的AI社會原則 4.1 AI社會原則 (1)以人為本之原則、(2)教育與素養之原則、(3)確保隱私之原則、(4)確保安全之原則、(5)確保公平競爭之原則、(6)公平性、責任說明及透明性之原則、(7)創新之原則 4.2 AI開發使用原則 |
圖1. 本文件全體架構
第二章 基本理念
在實現Society5.0上，AI備受期待能作出巨大貢獻。不僅僅是將應用AI的效率性、方便性及從中獲得的利益用於人民與社會；更應將AI作為人類的公共財應用，通過社會的理想狀態的質變及真正的創新，並透過SDGs來連結全球規模的永續發展。
吾人尊重以下三項理念之價值，並認為應該建構出一個會去追求該理念實踐的社會。
（1）尊重人類尊嚴的社會（Dignity）
吾人需將AI作為工具使用，讓人們得以進一步發揮出各種能力、更大的創造力，去從事有價值的工作，藉此建構出尊重人類尊嚴的社會，讓人們過著精神、物質都豐富的生活。而非建立過度追求AI的效率與方便，使人們依賴AI而導致人類生活受到控制的社會。
（2）各種不同背景的人能夠追求多樣化幸福的社會（Diversity & Inclusion）
擁有不同背景、價值觀及想法的人們可追求其多樣化的幸福，而能有彈性的包容之外更能夠創造出新價值的社會，是當代的理想，也是一項巨大的挑戰。AI這種有力的技術能夠成為我們接近這個理想的有力工具。我們必須藉由適當開發、發展AI來革新社會的面貌。
（3）永續社會（Sustainability）
我們必須藉由靈活應用AI，不斷地發展出商業及解決方法，消除社會的階級差距，建構出能夠應對全球環境問題或氣候變化的永續社會。我們必須朝這個方向前進。我國（日本）以科學、技術立國，有義務藉由AI強化我們的科學與技術，為永續社會做出貢獻。
第三章 實現Society 5.0所必需的社會變革「AI-Ready社会」
促進Society 5.0而備受期待的技術有：IoT、機器人技術、超高速寬頻網路以及AI。即便某程度上已能夠使用AI讓機械處理一些複雜的處理，但是「為了什麼要使用AI呢」，人類仍需要針對此做目的設定。我們能夠使用AI讓社會臻至美好，有時候卻可能不自覺的、不適當的使用AI促成我們所不樂見的目的。因此，我們有必要去思考「人」、「社會體系」、「產業結構」、「創新系統」、「治理」。而這五項觀點在實踐社會5.0時亦同等重要。
（1）「人」
在面對著AI普及至生活各角落的「AI-Ready社會」中，人類如何應對此一現象，將成為實現社會活用AI的關鍵。因此人類所被期待的能力與其所扮演的角色，為以下幾點：
A) 對於AI的優缺點，特別是AI的資訊來源，例如數據、演算法又或是以上含有偏見之資訊，具備理解、判斷能力的使用者是重要的。此外，期望能了解，資料數據的謬誤中，主要來自下列三種：統計偏見、不同社會樣態而產生的偏見以及AI使用者的惡意偏見等。
B) 期待透過AI的使用，能實現多數人可從事創造性或生產性高的勞動環境。因此，在出身、文化、興趣等觀點上，多元的大眾可以透過AI的支援，達到實現自身的夢想與構想。而為了實現上述目標，則必需打造相應的教育制度與能使之實現的社會制度。
C) 在跨領域、複合性與具有融合性的系統下，打造從具有數據、AI的基礎教養到實際運用與設計等應用能力之人才極為重要。而這些人將成為社會各項活動的動力，期待此能力能打造活用AI的生活環境。並在生活環境的整備之下，打造出一個使多數人能夠享有既豐富又充實的人生的社會制度。
（2）「社會體系」
透過使用AI，將期望可以達到促進個人服務、事態解決等能力進化，以及更具效率、個別化等多項優點。而社會將吸收這些變化所產生之優點，在醫療、金融、保險、交通、能源等社會體系全體，則需要因應AI的進化而有彈性的改變，使之能適應其變化。對此，不僅止於社會上接受AI的既有目的(增加便利性、解決單純的勞動型態)等單純致力於效率化，而乃至於能對應因目的的多樣化、流動化而產生的新價值、AI的進化等，導致負面現象(不平等、差距擴大、社會排擠)的出現。
為此，吾人有必要在社會體系的軟硬兩面上，落實具有擴張性、相互銜接性、秩序形成的架構的構造設計。除此之外，為了保證具有相互銜接性、連接性，整頓在各項社會體系上共通的數據資料平台更顯重要。
（3）「產業結構」
為使各樣夢想與構想能夠實現，勞動、雇用環境與創業環境能夠有彈性、並附有國際性的發展則為重要。因此企業進行公平競爭、促進有彈性的工作方式，以及人類的創造力透過產業得以持續發揮，促進對創業公司的投資亦是產業結構中所需的一部分。
（4）「創新系統」（支援創新的環境）
大學、研究機構、企業，乃至一般民眾，能夠跨越領域與立場，共同投入AI的研究開發、使用、活動與評價等，相互激盪的同時催化出使創新系統不斷增生的環境實屬重要。
為此，有必要讓實境空間的全部數據，能在最新且安全的AI可解析的層級內加以使用；而在確保隱私與安全之下，需要一個使人人皆可安心、提供數據使其相互流通並從中獲得利益的環境。
涵蓋研究開發者與使用者，重點是構建使人安心，並能研究開發AI，並將其活用、使用的環境，並透過研究開發與利活用的快速循環加速發展。此外，藉由AI的利活用，以催生新的發想與其可能性，使創新系統的範圍更加擴大。
（5）「治理」
隨著社會情勢的變化與技術的發展，上述所列舉的「人」、「社會體系」、「產業結構」、「創新系統」的內容與目的設定則有經常持續更新的必要性。
因此，政府、企業、大學、研究機構、一般大眾等各方參與者則共同合作，設定規定、制度、標準、行動規範等相關治理問題，評量其影響，在做出決定的同時能夠統合的體制之整備更顯其必要。此外，包含在社會上難以發聲的族群，收集各類參與者之意見，建構出致力於解決社會與技術上最先端問題的體制亦是其中所需。在落實治理，不僅法律，包含在技術上的手段等企業自發性的解決問題等，具有彈性且實際效力的方法皆為必要。而治理中的國際整合實屬重要，除了各國之間的共同管理之外，應對超越國境的問題的國際合作體制的整備更是不可或缺。
第四章 以人為本的AI社會原則
為了實現與積極推動AI與社會的結合，制定一個各個參與者皆應注意的基本原則實屬重要。
而吾人將以此原則，為使社會接受AI並且以適當的方式使用，將社會(特別指國家的立法、行政機關)需留意的「AI社會原則」與從事AI研究開發，和將其與社會連結之業者須留意的「AI開發使用原則」體系化。在第二章所揭示的，為實現具有三個基本理念的社會而不可或缺的AI社會原則，以及與研發者、事業者等須留意的AI開發使用原則，記述如下。
4.1 AI社會原則
AI社會原則在「AI-Ready社會」中，是以國家、自治體為首的我國（日本）社會全體，以及在多國之間的框架下所實現的社會框架相關之原則。
（1）以人為本的原則
AI的使用，不可侵犯憲法以及國際等規範所保障的基本人權。
AI的是為了擴展人類的能力，並使各樣的人有追求各樣幸福的可能而被研發，並在社會普及進而被加以活用。在活用AI的社會中，為防止吾人過度依賴AI，以及使用AI控制他人決定等不良的運用，有必要導入資訊素養的教育以及推廣正當的使用規定。
．AI不僅是代替人類勞動的一部分，更因其作為輔助人類的高科技工具，能使人類的能力與創造性加以擴大。
．在使用AI時，人們必須自己決定與判斷如何運用。因此針對AI的使用所產生的結果來看，需對應到問題的特性，AI的開發、提供、使用等相關各種參與者皆須負擔部分責任。
． 各參與者在AI普及的過程之中，須注意不使「資訊上的弱勢族群」或是「技術上的弱勢族群」等現象發生，並使大眾皆能享受AI所帶來的優點，打造一個人人皆能使用的系統。
（2）教育與素養的原則
在以AI為前提的社會中，產生彼此之間的落差，或是分裂，甚至是弱勢族群的出現是我們所不樂見的。因此做為AI相關政策的決定者與經營者，則需考量AI的複雜性與意圖不良的使用案例，並對AI有正確的理解，以及能正確使用的知識與倫理。由於AI的運作將比之前的任何的工具來的複雜，因此理解其概要，以及學習能正確使用AI的素養則更為理想。另一方面，AI的開發者除了本應學習AI技術的基礎之外，在此之上，更應從對社會有助益的觀點出發，學習AI在社會上能如何被使用等，包含相關商業理論、規範意識的社會科學與倫理等，人文科學相關的素養更屬重要。
從這樣的觀點出發，我們則必須向全體大眾平等的提供以下記所述的教育與資訊倫理的教育環境。
．為了不使差距與弱勢族群產生，除了提供在幼教與初、中等教育中廣泛的資訊倫理教育機會外，提供社會人士與高齡者的再次學習之機會亦同屬重要。
．作為能活用AI的資訊倫理教育與技能，將必須是一個不論何人皆能學習AI、數理、數據科學等素養的教育系統，而全體的使用者皆須超越文理範圍進行學習。在資訊倫理的教育中，則必須具備了能夠認知到在數據資料裡含有偏見，或是可能因使用方式的不同，而造成偏見的衍生等的AI、數據之特性。而在諸如AI、數據的公平性、公正性、隱私保護等課題上，有必須具有安全性與AI技術極限的內容。
．在AI廣泛普及的社會中，教育環境則考慮到從以往單方且均一的教育模式，轉換到依個人所關注的或活用能力的教育模式。因此社會將共享不拘泥於過去成功的案例經驗，以最適合的模式，有彈性之方式持續改變的共識。而在教育中，期待活用AI建構一個沒有落後脫隊者的互動性教育環境，以及學習者能相互連結、提攜的環境。
．為了朝向教育環境的整備方向邁進，不僅由行政或學校(教職員)背負相關任務，民間企業與市民也應同等視之，並共同致力於教育環境的努力。
（3）確保隱私之原則
雖然在個人數據資料使用上，並非所有的AI都具有高風險；但以AI為前提的社會中，可從個人行動相關的數據，如政治立場、經濟狀況、興趣嗜好等，進行高精準的推定。而這也意味著，對照重要性、顧慮性而言，在處理個人資訊上更須慎重。為避免個人資料以當事者不希望的形式流通，或是被使用，而招致個人權利受到損害，各參與者在處理個人資料數據上，須以下述的思維為基礎。
．在使用個人數據資料的AI以及使用AI所進行的服務、解決方式中，以及包含政府在AI的使用，皆不應侵害個人的自由、尊嚴、平等。
．若出現在AI使用上危及個人的風險增高之情況，則需整備對應該狀況的技術與非技術的解決機制。特別是使用個人數據資料的AI在攸關私人資料的部分上，應具有其正確性、正當性的確保與本人能實質上的參與之機制。因而能在使用AI之際，提供安心的個人數據資料，有效從中獲得便利與利益。
．在個人數據資料上，需對其重要性、顧慮性有所適當保護。對於個人數據資料來說，可能因受到不適當的使用，而導致涵蓋了從個人權利、利益等，極可能受到莫大影響的部分(一般來說如思想信條、病例、犯罪紀錄等)，到社會生活中的各項事務等，在活、使用與保護的平衡之間，則必須以文化背景、社會的共通理解為基礎，進行細項的檢討。
（4）確保安全之原則
透過AI的積極使用，更多的社會系統不僅能實現自動化，在安全性上亦得到提升。然而在現在的技術範圍之內，AI無法經常性地對罕見狀況或是意圖攻擊做出適切的對應，使得安全性上出現新的危機。故社會需留意在利弊上的權衡，致力於社會的安全性以及提高永續可能性的發展。
．推動對於在AI的使用中，正確的危機評估與其降低危機的研究，以及AI相關的廣域研究開發(從正面的對策到深層的理解)，發展涵蓋網絡安全的危機管理的機制。
．社會需時常注意在AI使用上的永續性。特別須注意社會不可依賴單一或是少數特定的AI。
（5）確保公平競爭之原則
為創造更多新式的商業與服務，維持持續性的經濟成長與社會問題的解決對策，則必須維持公正公平的競爭環境。
．在特定國家中，即便AI相關資源集中的情況下，（日本）社會不得出現其利用支配性地位而進行不當的數據蒐集，以及進行主權的侵害。
．在特定企業中，即便擁有AI相關資源集中的情況下，（日本）社會不得出現其利用支配性地位而進行不當的數據蒐集，以及進行不公正的競爭。
．在AI的使用之下，（日本）社會不得出現利用財富與社會之影響力，偏袒部分社會成員。
（6）公平性、責任說明與透明性之原則
在「AI-Ready社會」中，為避免在AI的使用下，因個人背景不同而造成差別待遇，或是顧及人類尊嚴，避免使其遭到不當待遇，則需確保具有公平、透明性的決策與對照結果的責任說明制度的同時，對於技術的信賴性上有所保證。
． 在AI的設計理念下，人們不因其人種、性別、國籍、年齡、政治信仰與宗教等多樣的背景為由而遭到不當待遇，全部的人接受到公平的對待。
．使用AI的事實、AI所使用之數據資料的取得方法與使用方法、確保AI運作結果之適切性的機制等，必須依照用途與狀況進行適當說明。
．為使人們能理解AI之提案並加以進行判斷，針對AI的使用、採用、運用，須因應必要而展開適切對話。
． 為確保上述觀點，以及能在社會上安心的使用、活用AI，必須建構出一個能確保AI以及支撐其數據資料、演算法的信賴機制。
（7）創新原則
． 在社會5.0的實現與AI的發展下，為了朝著伴隨人們共同進化的持續創新目標邁進，跨越國境、產學官民、人種、性別、國籍、年齡、政治信仰、宗教等藩籬，以廣泛的知識、視點、發想為基礎，從人才、研究雙向出發，推動國際化、多樣化與產學官民合作。
．促進大學、研究機構、企業之間的對等合作與提攜，以及彈性的人才調動。
．為使AI能更有效率以及安心地與社會一體化（社會實裝），在確立AI相關的品質與信賴性、在AI中所被活用的數據之有效率的蒐集與整備等手段，以及與AI的開發、測試、運用方法理論相關之AI工學同時，亦須推進倫理面、經濟面等廣泛學問之確立與發展。
．為使AI技術有健全的發展，必須以確保隱私與安全性為前提，創造一個不獨佔所有領域數據，且超越國境達到有效使用的環境。此外，為促進AI的研究，也應促進國際間的連結，打造一個加速AI發展的電腦資源，以及共享高速網絡的研究開發環境。
．為促進AI技術的社會一體化，須推動於各領域成為其阻礙的規制之改革。
4.1 AI開發使用原則
研發者與事業者，需共同遵守基本理念以及以上述的AI社會原則為基礎而制定的AI開發使用原則。
針對AI開發使用原則，由於現在已有多個國家、團體、企業對此進行討論，吾人須盡快透過開放式的討論，與各國達到國際共識，以規制及非拘束的機制在國際上共享相關資訊。
第五章 結語
為領先世界建構「AI-Ready社會」，我國（日本）政府、關係企業、團體等須共有本原則，並反映在相關政策上。
此外，在國際討論的場合上，我國（日本）除了與世界各國共有本原則之外，更在國際討論上取得領導地位，朝向形成共識的目標邁進。為此，向世界展示支持SDGs實現的社會5.0成果，將有助於國際社會協調與創造性的新發展。
另外，本原則日後將因應AI相關技術的進展、社會的變化以及世界的情勢，彈性地進化與發展。
