我們一樣會做逐字稿，逐字稿大家可以改十天。請吧！

我們就先自我介紹，讓政委認識一下，賴律師先（笑）。

我們今天代表台北市律師公會智慧財產及創新科技委員會，因為我們這個委員會，過去好像在談智慧財產權，但是實際上公會考慮到其實各種新創、科技對於律師，包含產業的影響很多，所以請余律師擔任這個委員會的委員，找了我們一些對於這個領域比較有興趣的委員進來，我們希望跟各個包含政府單位、其他民間的組織先建立一些連線的管道，因為實際上滿多律師可能對於新創科技這一個領域是有興趣，但坦白來講，這個領域走得非常快，再者跟實務的結合很深，其實大部分的律師，原先受到的訓練是法律的訓練，要怎麼樣符合這個社會的脈動，這個部分是我們這個委員會希望扮演平台的角色，也希望讓各界知道其實從公會到個別的律師，是有一個管道，希望可以跟各位接觸，包含資源的串聯，看看公會能夠從律師……一方面我們希望對社會貢獻一點心力，二方面也希望對我們自己的會員職業有所幫助，很高興有這個機會。

余律師我想政委也滿熟悉的，我個人跟余律師是大學的同學，我出來執業之後就自己run事務所，我們事務所服務的對象滿多都是新創的公司，我自己在學校學智慧財產權，當時我對網路很有興趣，可是整個法律的領域就智慧財產權的切入最快，因此我對於新科技這一個方面的議題多少都有一些涉獵，目前也提供比較多新創公司、科技公司在公司顧問這一塊的業務。

賴律師客氣了，賴律師是科技法律的大前輩，我們都是讀他的書，追隨賴律師的腳步，我剛剛會前也跟政委聊到，現在有愈來愈多律師關注新興科技相關法規調適。我自己是執業十多年的律師，也是三個小朋友的媽媽，在兩年前加入 AppWorks 生態系，經營一個駐點的事務所，除了因為受到前輩律師的啟發，對網路產業很有興趣之外，也希望瞭解孩子們長大的世界是長什麼模樣。

我把我的部分講完，所以我們都一直密切關注新興科技相關的討論，希望可以跟網路產業的朋友一起學習，同時看看我們在法律上的專業能提供什麼幫助。我一方面參 TiEA台灣網路暨電子商務產業發展協會擔任副秘書長，另一方面今天我們代表律師公會，就是希望能夠搭建起中間的橋樑。剛剛賴律師有稍微介紹一下，智財委員會一直都在，因為智財這個議題非常重要，但是創新科技的這個部分，其實是余律師擔任主委之後，我們才有一個合併的、全新的委員會，希望能在公會裡面鼓勵更多的律師了解這些新的領域、來學習新的東西。

不好意思，我剛剛晚進來，不過大家都很熱心，我在想的是，我們今天其實特別想要跟政委來談，第一個是我們現在有五、六千個會員左右，這一些新的律師，因為其實現在看起來很像新的律師超過了6、70％，也就是40歲以下的。

因為他們對於這一些新創的事情很有熱忱，可是問題是律師公會這邊以往比較focus傳統的領域當中，我們覺得這樣子很可惜，為什麼？因為他們有很多的熱忱，但是不知道要如何對接，社會上我們看到新創也有很多這樣的需求，所以我們希望透過律師公會、其他的平台一起合作，可以讓兩邊的對接看看有沒有辦法把相關的資源可以互相的應用，我覺得對於律師來講，對於學習、產業新創更接近做有興趣的事。其實在新創裡面來講，或許也可以找到一起工作的夥伴。

因此我們今天想要來談的是，因為我們知道政委對於社企及新創一直都在推動一些事，因此我們也想今天跟您談一下相關的合作。

很棒，謝謝。

我之前在Google，我現在在國際通商法律事務所，我們是全球最大的事務所，也處理很多跨境的業務，目前有7、80個律師，所有的領域都有。

我們全球辦公室對於像新創或者是新議題的部分，也非常有興趣。其實並不是只有臺灣，有很多辦公室的同事都在討論。臺灣產業有時後還是走的比較慢，相較於中國、新加坡或者是其他的地方，當國外走得很快時，我們就可以跟國外同事有很多的討論。

其實我們裡面也有一些年輕的律師有興趣新創議題，也希望有更多的參與。

我本身在IP、網路這一塊，所以我跟政委在很多場合都有遇到。

我本身大學其中一個主修是生命科學系，雙主修法律跟經濟學，所以我自己後來執業之後，主要是服務生技公司，臺灣的生技產業比較小一點，包含科技公司也都是我的服務客戶。

過去幾年執業的經驗，大部分不管是生醫或是科技公司，他們focus還是在傳統的智財。這幾年，也許他們有一些新技術或是新想法在改變，其實像生技醫藥，也不像以前那麼大的公司，其實有一些比較小型公司的出現，比如也有一些新的產品，對於我們的法律規範體制或甚至是一些倫理問題都有一些衝擊，這個是滿有趣的。

像有這一種科技背景，在我們現在會員裡面，其實滿多的，也許也可以利用這樣子結合不同專長的領域，也得到一些互動。

謝謝。

我們今天具體想要聊什麼？

我們知道政委有一些相關的計畫。

還是我先跟大家快速說明一下我手上的一些計畫。

我在院裡一年半左右，主要參加院裡這一種所謂國家級的這一種方案，其實一開始是「亞洲‧矽谷」，我入閣沒多久就推出「數位國家創新經濟」。「數位國家創新經濟」主要做的是infrastructure，infrastructure其實很多都跟法律非常有關係，我們之前有整理過「DIGI⁺」的網站，現在叫做「smart.taiwan.gov.tw」，大家都說「gov.tw」的網站有一種特別的美學，我們試著比較有系統地讓美學有一種精進的空間（笑）。

我們希望以「DIGI⁺」作為基礎層，各個應用都可以長出來，在上面的任何應用，像AI Taiwan（https://ai.taiwan.gov.tw/）就技術上、一個模子套出來的（網站），所以可以看得到「ACTION PLAN」，特別是test fill（音譯）、regulatory co-creation，在這一方面我覺得可能跟法規最有關係的部分。

我自己跟法律的關係其實是從「DIGI⁺」這邊的基礎工作到要長出東西，像即將把無人載具的創新實驗條例，也就是AI mobility沙盒送到立法院，下個禮拜可能院會就要送了，在此之前FinTech的沙盒，以及在行政院內部的法規命令層級，像平台經濟法規調適原則，或者是所有國發會自己有一個新創法規的調適平台，中企處也有自己法規灰色地帶釐清的沙盒。

一句話講，就是在做「regulatory co-creation」，我大概都是在做個工作，不管是從基礎層的需求出發或是從應用層，就覺得目前的法規對大家綁手綁腳，我們試著說服立法委員在一定風險之下有系統地違法，違法的過程讓整個社會可以看到不只是為了創新者的私人利益，也可以真的解決社會問題，像偏鄉、金融普惠等等的問題，就不只是產業創新，而是社會創新，而是為所有的人，我們就可以讓所有受到影響的人在測試期提出疑慮、彙整疑慮，一起提出共識，然後變成法規調適的基礎，如果沒有這個實驗期的話，大家是沒有第一手的經驗，大家是看國外的報告，這樣是沒有意義的東西。

空總這個地方是目前讓很多需要實際場域，像無人機在這邊測試，MIT的三輪車、無人車都在這邊測試，像北科大改好幾個版本，讓人互動來、互動去，我們在過程中有完整的資料，然後大家可以事後回去重現，不只是無人車怎麼看程式，而是如何透過中介的技術或者是視覺化的方法，看到無人車眼中的世界，為何做這個決定，等於是互相馴化的過程，從這個角度去看AI的倫理、安全性等等的題目。

因為你們去中企處，所以吳處長可能有提到這兩個沙盒過了之後還想要推戰略特區，也就是所謂一般型沙盒的目的，我們希望法規在幫解決這一些社會問題的朋友解決問題，並不是幫這一些朋友造成他們的問題，這個並不是由上而下的想法，所以這個是我目前在院裡主要做的事。

跟新創當然還有關係，我這邊看的、我評估的，因為我是做類似C for C，所以來我這邊一定有公共利益，如果是私人產業裡面的創新，目前院長正在巡迴，那個是有「5＋2」的朋友在處理，我處理的是「DIGI⁺」跟「亞洲‧矽谷」中間的關聯。

我們知道社會企業這一個東西，而且其實社會企業也在轉變，其實有很多我覺得律師可以在中間參與，我瞭解通常像這樣子，比如有法規調適，本來就有一些非常熱心的律師。

中企處有榮譽律師。

我們也在談更多，因為需求開始不一樣，律師也是不一樣，律師接觸新創或者是這一些新的議題，這個對產業來講是新的議題、對律師來講也是新的議題，像以前是榮譽律師，中小企業處是傳統的issue，所以可能並不是真的在做一些新創，所以我們也希望重新透過跟他們對接的部分，把我們這邊看怎麼樣，律師也有所謂專業化的問題。

其實很誠實地講，不只是中企處，而是國發會陳主委上任之後，有一個新的法解就是哲學出現了，就是說沒有規定的都可以做，如果個案禁止不能擴及到通案，如果通案禁止逾越母法，通案的函釋應予廢止，他們家的KPI就變成廢止了多少的函釋，這真的是沒有過的情況，所以律師能夠扮演的角色就更大了，因為在以前好像只能幫主管機關解釋問題，但不能解決問題，現在主管機關說廢止之後到底該怎麼辦？這是比較創造性的工作。

不知道您這樣的工作裡面，有哪一個部分您覺得值得是我們可以來討論怎麼樣更具體的合作？

一個是我們每個禮拜三下午、晚上在這邊都是「vTaiwan」的小聚，在二樓。「vTaiwan」從蔡玉玲律師開始，也就是新興科技與法律誰也沒有辦法說服誰的時候，等於是共同學習的平台，所以我們在處理的比較像……最近在處理的是跨部門資料整合，這其實是臺灣可能處理十幾二十年沒有很好解決方法的老問題，當然像之前剛剛講的那幾個沙盒或者是社會企業，也就是與公司法有什麼關係，在「vTaiwan」都有處理過，那個是社群主導的，我們並不討論怎麼做，或者是網頁怎麼做，那就是誰在場，誰就可以參與的地方。

當然，如果大家有空的話，就禮拜三下午來玩，這個是很具體的。

另外一個是中小企業處新創法規的沙盒，在每一個沙盒的案子進來之後，都會碰到主管機關眼中對同一個法律這幾個字的詮釋跟業界完全不一樣的解釋學問題，所以他們很需要這一種不會被部會覺得好像一定是新創請來的、也不會覺得被新創請來摸頭的角色。

有時法規調適——像我在商周專欄寫的——像幫「好牧人協會」去處理協會要設立一家子公司的題目——當時他們想要請的專業人員，好比像會計師，他們就會有一些要求，好比像教徒之類的，他們自己會開一些條件，覺得這樣才能理解他們的社會使命，如果是無神論者比較不能瞭解他們的使命，像這一種中企處也不可能立刻生出律師來，如果大家對於法規調適有興趣的話，也可以透過一個類似認領的情況，這樣就對陳組長那邊，這個是另外一件事。

如果大家對於特定社會議題有興趣的話，每個月會處理兩個連署案，連署案就是在公共政策網路參與平台，五千人連署的話，跨部會的題目或者是複雜難解的題目，像動保警察，從內政部、農委會看好像是兩個不同的世界，如果本身對動保沒有關心過的話，以法律觀點其實比較沒有那麼貼近這個議題，所以像這一種時候，我們比較需要從第三方往法律觀點來幫忙的專家，我們可以請法務部，但是法務部從連署者角度來看是從政府這邊，雖然他們不覺得，因此如果有第三方的專家願意對於我們這一些主題用一些專業的方法來澄清法律上的爭議，這樣也非常好，也請主持人群，如果你們有哪一些議題特別感興趣，也可以問你們有沒有空。

有關於法規調適那邊，其實是中小企業處，我們會繼續跟他們談這一件事。

像「vTaiwan」的部分，政委您這邊我印象中都是開放給所有的人。

來就是了。

我們這邊可以發信給會員讓他們知道來做這一件事，或許我們可以作平台資訊發布的這一件事。

像社會議題的部分，其實也是這樣的狀態，假設您這邊有一些其他的，或者您這邊或許可以留給我們一個，比如email，我們可以透過我們這邊的平台去看哪一些律師有興趣。

徵求誰有興趣。

對，我們會從我們的會員開始，因為我們會員對特定會員有興趣，如果其他的人有興趣，也會開始想要堅如我們的資料庫，所以其實可以從這一個部分開始。

沒有問題，這個是絕對沒有問題的。

我們目前可以做的是，如果特定的議題您覺得有需要，也就是您覺得原來的接觸點可以有更多的人進來，其實可以隨時以我們作為接觸點。

謝謝。

我有一點像要專訪政委的意思（笑）；您剛剛有提到AI現在領域的發展，像無人載具，除了這方面的應用以外，還有沒有關注臺灣目前有哪一些團隊在做的一些AI應用？

我想是這樣，AI簡單來講大概分三層，一層是我們叫「II」（Intelligence Infrastructure），那個就是在大家做決定時，有很多的evidence based 可以看得到，很多非常冗的部分，你還沒有想到，他已經幫忙準備好了，這是整個基礎層。

為什麼特別挑無人載具？因為無人載具真的開以前，他底層要做的非常好，不然就沒有足夠的資訊去判斷，所以底層大概是現有的非數位化的資料如何數位化、已經數位化的資料如何整合的題目，這一些不太需要一群人，如果有一些小部分，像機器學習進來可以更有效，或者是在處理很大量輸出的時候，可以省時間，這當然很不錯，其實用傳統的演算法做得也還可以。

中間這一層叫做「IA」，一般我們稱「Intelligence Augmentation」，AI部分的特點是價值上的判斷還是人在做的，但是像以你們的工作為例子，你要查之前的判例或者是你看一個合約的時候，要檢查裡面有沒有自相矛盾的部分，那其實很冗，其實在此之前，並不是你的基層幫你做完，但因為每一案上來還是做這件事，也就是類似拼字檢查小幫手的角色，可以讓大家的工作需要價值判斷、溝通及創造力的事情上，凡是冗的部分，AI進來協助。

目前走得最遠的是圖像、影像處理及聲音、文字處理，還有純文字的語意理解，目前講到AI是在這三個部分有一些不用寫程式，也可以直接做的部分，所有其他的部分其實都還在剛開始，除了下圍棋下得很好以外，其他只要輸入、輸出還沒有定義很好的部分，其他都剛開始。

最上面的部分，像下圍棋是看起來已經完全不需要人類，人類可能只是享受工作的成果就好，這部分其實還沒有完全準備好，也不太有人知道到最後這個會怎麼樣，因為這個畢竟並不是技術問題，而是社會學的問題，如何讓一種物種融入我們這個社會，而且在一開始現在還小、直覺，只相當於不假思索就做判斷時，其實沒有人腦裡面把各個不同中樞整合在一起的能力，每一個都是小的視覺中樞自己反射式地做判斷，所以這時要如何給他某種automatic，這其實是很大的社會學問題。我目前沒有看到很簡單的方法去說人類社會裡面某些部分完全交給機器，人在裡面不是一個點。

所以我自己是覺得在我們把底下這幾層紮根基做好功夫之前，雖然科幻小說都是在講最上面那個部分，但是我目前沒有看到有什麼一下子就從上而下導入的方法，大廠都是在強調為底下兩層做得多好，中間這一層，人類還是有多麼駕馭的人力，但這不是PR有必要，事實上技術上就還沒有發展到可以不加這一些就做的程度。

所以我們目前看到的狀況是，大概是社會上有需求的時候會出一些題目，AI不能完全把這一些題目做完，而是把冗的部分減少，確實可以增進生活經驗，像小學老師要改數學考卷，手機掃過去，就可以把考卷改好，看起來很厲害，這可能是工作裡面1％的時間。

媽媽要先下載，因為媽媽要檢查功課（笑）。

但是當然不能取代你跟你小孩的互動，所以這一個過程中，我覺得目前看到的是，如果越多人能夠瞭解到冗的部分有可能很容易地解決，大家其實批判批判思考的能力，也就是去看自己的工作裡面有哪一些是冗的，不要過於認同那一些部分，認同的可能是創造價值、溝通及判斷的部分，慢慢就把這一些部分都解決掉。

目前行政院很快會有一個記者會，也就是AI人才培育的方案，現在的看法是，我們也不是好像關在學院裡面自己學演算法之類的，而是讓整個社會出題目，而這一些題目是不管是透過數據進行預測、對工作進行優化，像目前有一個叫做臺灣AI學校，就拿這個當作練習題，就知道極限在哪裡，就不會有不切實際的幻想。

這些也是open source嗎？

對。底層技術的部分應該全部都是開源，當然當整個團隊解了一個題之後，整個團隊被挖走之後，還會不會開源我就不知道了（笑）。

但是目前可以重複利用這一些基礎的元件部分，目前還是最大宗，凡是想要自己弄的都沒有真的弄成，大家目前都還是加入這樣的生態體系裡面來，畢竟AI現在很像……打一個比方，也就是牛頓出現之前的造橋工作，或者是化學工作，並沒有一個通用性的理論，也就是說AI要如何開發，大家不斷嘗試錯誤，這個領域解不開，跑到那個領域還有一點用，目前的做法是百花齊放，大家試著做一點，湊起來就變成是可以用的。

這個為什麼有用的理論，目前沒有人知道，如果是有人知道，就是通用性AI，那就是第三層，因為硬體、演算法等等的限制，我目前還沒有看到完整的通用性AI，所以目前是不斷鼓勵民間提意見，不斷鼓勵想要學的人用解題來學，大家瞭解到這是這一代的技術，很快就會被淘汰掉，所以大概就是拿這個當藉口，培養一些瞭解彼此需求、跨領域對話的能力。

因為我們職業的關係，雖然我們對於推動個別實驗場域、進一步形塑新的法律規範非常感興趣，但是我們的客戶則是扎扎實實面臨商業應用層面的法律問題，像我們圈子裡面很熱烈討論歐盟GDPR的規範，比如我們的客戶在data collection 和 processing的過程中，如果數據本身牽涉個資或是隱私資料，可能必須因應歐盟嚴格的規管標準。在您接觸的社群討論當中如何看待這些議題？

「vTaiwan」就個人資料專責機構的題目，也就是DPA的題目，一大半是GDPR的關係，才有這麼多人討論，如果不是的話……（笑）。

當然有一些成果，目前國發會、法協已經有一個GDPR的專區，他們也會擔任這個政府跟GDPR去討論、國際協商，不只GDPR，CDPR的整個體系，就目前跨境的這一件事，像大家相同對一件事的講法不一樣，你要談國際條約真的是太可能的工作，這個行為在不同的管轄領域裡面，把它定性成什麼的這一件事，都是像你講的不同個案，一個個來談，這個其實是很繁瑣的工作，但是是必要的工作，我很感謝國發會現在擔下這個工作，也就是對APEC跟歐盟體系去進行實質討論。

另外一個，很重要的是相關部會諮詢的窗口，因為對很多人來講，做到國內個資法的法遵是不是足夠，或者是這樣處理到底需要花多少的成本，因為有的時候看字面覺得要花非常多的成本，但是事實上實務上可能做到八、九成就差不多了，所以像這一種判斷，目前各個部會，我們是請財政、教育、法務、經濟、交通、科技、金管會、NCC一個對他們當作主管機關轄下事務的窗口，也是透過個案累積的方法等於組成一個學習圈，慢慢處理這一個題目。

假設電商或是其他網路服務，在個資的監管歸屬於哪一個主管機關，往往是最先面臨的問題？

還是要回到登記的主管機關，因為我們目前個資法的架構就是這樣子，我們有三十一個DPA，雖然我們在國際上沒有三十一席，但是事實上我們目前就是三十一個DPA，所以是哪一個主管機關管，就要找到那一個主管機關DPA的窗口。

但是同一個行為花兩個不同的解釋，都很像國際談判，我們把判例累積到國發會的概念確定之後，其實我覺得好很多，因為之前法務部的狀況是，他們可能專職的人的數量沒有多到可以瞭解每一個個案的程度，但是至少國發會那邊人力稍微比較充裕的，所以目前看起來這個情況是比較work，但是目前解釋權還是在法務部。

我想GDPR是一個很好的機會，有一些就算從他的角度來看，不一定要全球一起實施GDPR的跨國公司——像臉書，目前是急著改邪歸正（笑）——所以就在全世界roll out GDPR的介面，我們就可以看到怎麼請求刪除，可以清掉FB的成見、可以看到不相關的廣告之類的，會把GDPR裡面的每一個要求變成第一手經驗，有就事論事談的具體操作，我覺得這個對導正大家的視聽也很有幫助，不然會覺得這個是主管機關幫我做的事，但是GDPR的特色是賦權使用者，不然也沒有辦法幫得了它，這個是公共教育或者是對內的教育這兩個方向，我們正在用這兩個方向來調適。

因為現在從大數據來作商業模式的企業其實成長越來越快，我們也看到別的國家，當只有single的DPA，他的learning curve是快的，如果是分散，比如三十一個DPA的話，learning curve就會比較慢，所以我們其實看到產業有這一種需求，也就是single的DPA。

第二，我記得GDPR談了很多，我上次參加一個論壇，GDPR就隱私的保障是非常重要的，但是像臺灣這麼小的經濟體，到底GDPR的成本就產業來講，其實是需要一個平衡，我也滿贊同的法務部的一些意見，其實在臺灣很多問題，也就是解釋不清楚或者是沒有人解釋，我覺得這個是第一個。

除此之外，其實我們自己國家的個資法，重要的是落實，我們有一個還不錯的標準在這裡，但是我們很多企業還沒有落實，現在就談GDPR，我覺得中間還有很多要討論的。

我剛剛特別講的是，我想使用者端的empowerment的這一件事，我覺得這個是比較work的架構。大家過去期待的是行政權還不夠集中、還可以更集中，還不夠指導、可以更指導，但是事實上這都不work。

我們看國外的DPA，如果放在純行政權其實也不一定那麼多，即使是一個行政機關，也有很多外部的委員，像法國的模式，幾乎是各界都派一些人，變成合議制的狀況，後面的目的……我有跟WP 29之前的主持人（Isabelle Falque-Pierrotin）聊過，他們的目的是當然公務員要知道，但不是都透過公務員來執行，而是要靠消費者保護團體或是靠這一些協會來執行，是把越來越多的武器，不管是法律上、請求上、技術上的PET（隱私強化技術）通通交到這一些民間的人的手上。很多不一定是惡意的企業，只是不知道怎麼做比較好，一起討論出怎麼樣做比較好。

誠如你所說的，我們目前加入這一個學習圈，只是三十一個DPA的九個而已，其他的二十二個要怎麼辦，我覺得是自己的國家要自己救（笑），我們這邊當然會繼續把像國發會資管處、法協、資安處、個資及隱私處理的相關機構，我們在內部的學習圈，當然一直在建構，到現在就看到解釋有越來越統一的趨勢，這個真的有在做。

但是，在執行方面，我覺得還是要靠實際受到影響的使用者，慢慢形成「在臺灣做哪些事就是不行」的共識，我想目前短期之內還是要做這一個方向。

好棒，以上的談話其實也verify我們這一個委員會是很好的平台與橋樑，一方面可以參與法規的調適，另一方面我們也會努力把最新的訊息傳遞給公會會員，大家再帶回去給客戶，會產生一個很好的交流互動。像是GDPR帶動全球隱私監管趨嚴，客戶在問的時候，我常常是從正能量的角度，跟客戶解釋這個empowerment賦權的觀念就是要讓使用者心甘情願把資料交給你。

我講一個比較抽象的，不管是AI或者是大數據的發展，因為我純粹唸法律的，我就會考量到一件事，我不知道我的理解是不是正確，在談法律責任的時候，我們最強調的是因果關係，今天有故意、過失，才需要負責任。

我們在看AI、大數據會發生一件事，AI假設給一個最好的建議，但是背後可能是數據關聯性，並不是法律上所講的因果關係，可能某一個結果是最好的，但中間不給解釋。因為可能無法解釋，就是根據相關的數據所得到的結果。

像Google Map，你問這邊開到那邊，哪一條路最快，他會告訴你三條路，說會慢的原因是因為正在塞車，所以會用紅色來表示，但是當然沒有辦法解釋到很深，因為你也沒有時間去理解。

假設醫療責任吵得很兇，假設機器決定某一個病人現在應該怎麼治理，這個是最好的，因為從數據來觀察是最好的，但因為數據互相影響的因素太多了，所以沒有辦法像我們想像的，比如今天是用什麼樣的規則套進去，因此從A至B點，為何這樣子最快？

因為我去聽他們講機器學習時，假設是一個有比較固定結果，像圍棋，他就調參數，參數變動後可能涉及很多項目的調整，而參數變動的結果，只去看結果是不是更接近正確，而不去看彼此的因果關係。我舉一個例子，假設今天變動一個參數，讓學習的成果更接近正確，參數的變動就覺得這個是ok的，但不去管、解釋為何產生一個更正確結果，只是說這樣的調整是更接近正確的，不斷由機器主動變動參數去做機器學習。

我聽他們講完之後，以現在做機器學習的角度來說，重點是資料間的關聯性，而不是論理最後為何會達成一個正確的結果。

我們的想像是，以之前歐盟罰了Google購物的案子為例，其中一個原因是Google講的歐盟無法接受，Google說因為什麼邏輯或原則去調整搜尋排序的結果，歐盟覺得Google提出來這一些說明沒有辦法接受，為什麼？因為那個不合邏輯，很可能Google覺得調整了這一些事項、參數或者是權重，他的結果就是比較好，但歐盟問的是有沒有對其他的業者構成歧視，這個從法律端跟技術端是不一樣的看法，如果我是從技術端的角度來看，如果結果是好的那就是好的，我不需要交代為何這裡的權重調升5％，那裡的參數調整成為什麼數值，這裡的權重調降多少，不是談論理，而是講究關聯性，Google認為好就好。今天歐盟主管機關處罰你的時候，要講出符合邏輯的東西來，而不是說結果比較好或結果比較不好，是無法說服主管機關的。

從這裡我想到另外一個問題，像剛剛談到GDPR，國發會GDPR的專區我覺得沒有積極作用，以該專區所提供歐盟跟我國GDPR的比較分析，對於國內業者並沒有什麼用。應該是要說明如果業者都符合臺灣的個資法，還要多做什麼事，才可以因應GDPR。像GDPR第13至第15條，有關於自動決策、蒐集，還有要跟當事人說你蒐集這個資料之後，我做什麼用對你產生什麼影響，GDPR要求要講清楚。我們的個人資料保護法根本沒有這樣的規定，如果依GDPR規定去做法律上的解釋，可能就會產生無法向消費者或主管機關解釋清楚的情形。像我看到業者將網站蒐集的資料拿來作廣告投放及標記這一塊，網站業者在蒐集的時候，可能自己都不知道蒐集來的資料會怎麼用，又如何能夠說明得清楚。這是否也跟在AI、大數據的發展下，業者能否用因果關係去解釋的問題有關。因此我認為到最後的法規跟實際技術應用面，最後一定會產生衝突。法律領域一直強調因果關係、符合邏輯，因為我們受到的訓練都是這樣，但是產業的發展並不是這樣子。照這樣子的發展，最後一定會有衝突，我不知道我的理解是否正確，但是我覺得如果按照這樣的發展下去，傳統法律的訓練，那兩個體系是會衝撞的，這個是我最近一直在想這一個問題，我覺得很像不一樣，但是我不知道是不是我理解錯。

這個談的是演算法的問題，所以演算法要透明到什麼程度，這個部分或許可以跟政委請教。

其實對律師來講，衝突是一定的，而且產業根本不會care法律這一件事到底是講什麼事，律師若在整個討論裡面扮演一些腳色，可以讓討論更完整一點。

首先講一下您剛剛提到透明原則的部分，我們感謝廉政中心有給GDPR導讀，那個也是在國發會專區，那一份講得比較清楚，因為有人會看逐字稿，我還是講一下（笑）。

我想分三件事：

一個是我們剛剛講演算法的透明性，我自己覺得並不是很充份，因為演算法的透明性，如果只對我們這些學演算法的人才有意義，就跟法律判例都公開，但如果沒有配套的培力機制，民眾要如何看得懂？

但是我自己比較在意的是，GDPR為了落實透明原則，我自己看起來，要的是一個accountability的體系，透明很像比較是transaction，做了一件事把它放在那邊來看，這個就叫透明了，但並不是跟我有一個長期的關係。

這長期的關係裡面，凡是你比較聽不懂，我再改一下，如果這邊覺得不知道你想要聽哪一個部分，我這邊再改一下，所以在政府的角度來看，我們自己在處理資料的時候，同樣有一個accountability的問題，我們這邊就叫「當責」，在人民的角度叫做「課責」，中間的互動是「問責」。為什麼中文會有那麼多翻譯的原因是，因為是一個互動的過程，然後你從不同的actor的角度去看，所以其實我沒有覺得一定要用因果關係的存有論種來處理這件事，也可以是一種大家往不同的角度去接觸，比較是一個解釋學的角度，也就是如何把我心理想的事情、我做的判斷，用你能夠理解的方式來講。

但是解釋學你也知道，是大家的視域逐漸融合，但是不會有完全融合的那一天。因此完全用AI的角度去看事情，這個是沒有辦法的，但是我們讓大家要做判斷時，至少展開一、兩層，不一定是因果，在GDPR裡面其實只是要方便取得、易於理解及清晰易懂，並沒有說一定要用法律的因果邏輯來講，所以像蘋果最近作業系統改版了，每個用到個資的地方都出現兩個人形的圖示，就是把這一件事展開一層，有一點像把Google Map把塞車的地方標上紅色，你說紅色是不是真的很有意義？資訊量也不一定那麼大。但至少提供一個直觀，在直觀裡面可以具體往這一塊去請求，並不是完全是黑箱、黑盒子，所以互相展開的過程，我覺得才是GDPR想要做的事，並不只是個人資料作為一種資產用透明的方法，讓大家來保護，而是說服務提供者、使用者中間應該要有對話的能力，這個是對話的部分。

但是歐盟剛剛那個案子，我以為罰的是外洩的部分，也就是有造成傷害競爭的事實，所以其實也不是要Google說把演算法弄到法律語言能瞭解的程度？

是歐盟要求Google解釋為何要變動演算法，歐盟認為Google沒有解釋清楚，故認定其演算法的變動已傷害到競爭的環境，因此我的意思是究竟是Google不想講清楚或者是不想解釋清楚，Google覺得解釋清楚了，但是歐盟覺得這樣不懂。

人類學習的時候，你說為什麼看到一個案件會做這個判斷，你也需要經過一個自己往自己詢問的過程。這個過程如果沒有反思訓練的話，一般人類也沒有辦法把腦裡的中樞跟語言中樞接起來，如果大家都可以的話，就不需要治理環境了，這個能力是可以練的。

對於一個機器學習的角度來看，像AlphaGo變成AlphaZero之後，他們在線上有一個學習圈，它擺了一個棋盤，試著讓AlphaGo解釋下每一個棋子瞭解後面在想什麼，原因是可以透過不是完全不懂圍棋的人，而是滿懂圍棋的人可以透過這種方式，來瞭解AlphaGo打開一層之後在想什麼。

AlphaZero可以解釋嗎？它可以解釋為什麼可以下這邊嗎？

它當然可以解釋。

我的意思是，本來會有像我先前看中國大陸微軟做的小冰詩人，這個AI寫出來的詩，研發的人，甚至這個AI的機器本身都沒有辦法解釋為何會產出那一些文字。

它只是當時沒有寫進去。

但它可以解釋得出來嗎？

它當然可以解釋得出來。

解釋的方式是人類可以理解的？

當然可以理解到一個程度。從某個角度來看，這個狀況跟導盲犬是很像的，就是說牠帶你這樣走，你要牠學人類的語言沒有那麼容易，但是可以用非語言訊息來表達為何可以做出這樣的判斷。當然你沒有辦法讓導盲犬到寫出法律意見書的程度，但是其實牠真的能夠表達滿多訊息，因為我跟動物相處滿多的。

所以並不是人類去腦補所謂的動物溝通，而是從這一些非語言訓練有效整理出看到這一些訊號的時候，就可以翻譯出人類覺得哪一些事，大概並不是因果關係，而是在它的腦海裡面出現一些現象，試著解釋，很多時候不是文字，而是用圖像，就像Google Map，不用2D、3D的圖，而是用純文字來解釋為何這樣判斷，真的很花時間，如果你用二維的，甚至三維，你戴上VR可以看到他所做決策的那一些數據，直接疊加在二維平面圖的上空，這樣就告訴你說這邊阻力比較小。

人在理解事情的時候有一些直觀的部分，我覺得更適合AI進來，也讓我們感受到這個時候我們的直覺跟它的直覺開始疊合，這個其實是我們叫做「資料視覺化」、「判斷視覺化」的工作，這個並不是只有機器學習這邊要改變輸出，而是要把到底想要什麼更好、它的過程更變成人類直觀理解，人類也要去理解機器學習的世界，雙方都要往中間走一點，但是我覺得並不是不可解釋。

感覺上「不可解釋」是對於資料的直觀，我們現在是交給人類裡面的少數專家在做，就像建築師可以看二維工程的平面圖腦裡馬上就蓋好機場，但是別人都沒有這一個能力，但是我們如何讓大家有這個能力，透過一些技術的輔助；反過來講，機器這邊如何把中間的決策層翻譯成中介可以懂的資料，這是很熱門的機器學習領域，大家大概都知道這個東西做到一定程度之前，就是AI在社會裡面的包容，大概就不太可能超過某一個部分。

當然，我們這邊有一個集體的哲學問題，我們要只是因為AI能夠做平均起來比人類好的決定，就直接讓它上路嗎？平均起來它比人類開車安全，所以在它能夠跟交通警察解釋之前，我們為了大眾安全的不利，應該要讓它馬上上路，或是等它互動到某個程度再上路。

臺灣很明顯是透過沙盒的方式，在小區域有強烈社會需要的時候先測試，但是在測試的過程中，慢慢培養這個能力再去放大，我們是在這兩個中間試著做橋接，但我們給國際大廠很強烈的訊號，進來並不是只是為了產業創新，必須要有跟社會對話的方式。

十幾年前去了法院，我跟法官講說這個是電腦自動排序或者是自動產生，法官覺得平台或者是業者沒什麼責任，但是這幾年去法院的時候，法官通常會詢問為什麼會產生這一種結果？不會單純信任電腦系統自動產生這樣的說法。比如Google有一個服務，搜尋建議（這還是可以解釋的），如你鍵入關鍵字「賴文智」，搜尋建議的結果出現「賴文智笨蛋」，我們會跟法院解釋這只是眾多網站累積搜尋出現的統計結果，由系統累計後提供，並不是系統要對特定人誹謗。

現在法官已經沒有辦法接受，你跟他講說電腦自動產生的，你還要進一步跟他講說為何會有這一些東西，我的意思是，等到再更晚之後，我們會需要跟法院解釋為什麼最後要做成某個建議，除了因為AI給出這個建議，而決策者也採納這個建議之外，這個時候如果決策者要排除相關法律責任，無法說因為這個是AI給我的建議，這個最好的解決方式，因此就採用這個方式，然後就沒有責任？而是必須對為何AI給出的建議進一步用因果關係、邏輯去解釋，才能說服法院。無法直接提出說這是某一套AI系統給出的建議，所以我們採用其建議結果不應負責。

當然不能這樣，這是認識論的問題，像望遠鏡剛發明的時候，器材滿爛的，不能分辨觀察到是木星的斑點或者是望遠鏡的斑點。但不能說因為製作技術爛就不使用望遠鏡，並不是因為知識論上有瑕疵，所以就不把它弄清楚。

以前的主張是「因為這個是電腦做的，所以不用解釋」，我想這個已經過去了，一部分的原因是使用者更有資料素養，更能夠從另外一個角度來看，用另外一個AI就不是這樣判斷的，因此這個時候沒有辦法推給所謂的演算法。

剛剛政委提到GDPR強調是賦權的概念，其實「改邪歸正」的Mark在國會聽證或是後來F8對外發表，也很強調讓使用者控制自己的個資，反而可以得出優化的運算結果。

所以趕快把資料從歐盟搬走（笑）。

我提一個想法，其實政委剛剛有提到從政府的觀點，其實政府的資源永遠都是有限的，如何讓你的消費者開始透過比如相互讓業界去競爭，因為業界是需要更多的使用者，所以如何透過這一方面，變成是一個更好的正循環。

業者也想要優質的資料，不需無關的、多餘的資料，所以使用者可以控制的話更好，對業者相對也是好的。

而且從使用者的角度來講，如果都是被蒐集的話，其實不但沒有控制，而且得到的東西往往是一個bias，我們常常說如果都是passive collection，到最後會得利的，也就是所謂的precision persuasion，因為可以反過來洗腦使用者；但如果使用者是主動提供意見、參與的話，會得利的可能比較是讓大家都是主動的，融合成對大家都有共同價值的東西，所以簡單來講，使用者越passive，就越會被劍橋分析（笑），但使用者越active，就越能增強這個治理環境的部分。

我們知道政委的時間都很忙，非常感謝政委花這個時間跟我們對談。

禮拜三我都在，所以有事沒事都可以來。

今天的討論很精采啊！這樣我就想要敲政委8月的通告了，其實我們公會有為會員舉辦很多這樣新興議題的講座，像這個禮拜六我們舉辦了區塊鏈的講座，會邀請產業界、公部門、立法委員們，在座的是超過七十位會員律師，我們下一個要講的主題就是AI的領域。

8月什麼時候？

8月的某一個週末。

我們正在規劃這一件事，我們想說之後更確定的時候會再跟政委聯絡。

我的行程都是這一位（黃子維）在排的，他有排的我就會到，我自己排的不一定會到（笑）。

謝謝大家。