危險 AI 花名冊

來自專欄極光日報95 人贊了文章

簡評：臭不要臉 AI 名單，another side of AI.

這是一個可怕的 AI 清單，上面的各種商用 AI 項目都用於一些很惡劣的目的。請大家保持警惕。

區別對待類

• HireVue - 掃描你的臉並告訴公司你是否值得僱用的應用程序[ 摘要 ]
• 同性戀檢測 AI - 根據一項新的研究表明，機器可以比人類具有更好的同性戀判斷，人工智慧可以根據他們的臉部照片準確地猜測人們是否是同性戀[ 摘要 ]
• 種族主義者聊天機器人 - 微軟聊天機器人叫做 Tay，它從 Twitter 學習了一天，並開始吐露一些種族主義言論[ 摘要 ]
• 種族主義自動標籤 - 谷歌圖像識別程序將幾個黑人的臉部標記為大猩猩[ 摘要 ]
• PredPol - PredPol 是警察部門的一個程序，可以預測未來可能發生的犯罪的熱點地區，它可能會讓黑人和有色人種社區被無端懷疑。[ 摘要 ]
• COMPAS - 是威斯康星州法律法院用來預測再犯風險的風險評估演算法。其開發公司拒絕透露專有演算法，只有最終的風險評估分數是已知的。該演算法推論黑人的再犯罪指數更高。[ 摘要 ] [ 紐約時報社論]

壞影響力、虛假新聞、謠言類

• 劍橋分析公司 - 劍橋分析公司使用 Facebook 數據來改變受眾對於政治和商業的行為和傾向[Guardian 文章]
• Deep Fakes - Deep Fakes 是一種基於人工智慧的人體圖像合成技術。它用於將現有圖像和視頻合併併疊加到源圖像或視頻上。Deepfakes 可能被用來製造假的名人色情錄像或復仇性質的色情片。[ AI 輔助假色情 ]
• 假新聞殭屍工具 - 通過殭屍賬號自動編程傳播假新聞。假新聞用來操縱股市，散布假保健品消息，操縱選舉（包括全美大選）[ 摘要 ] [ 機器人角色 ]
• 注意力工程 - 從 Facebook 通知到 Snapstreaks 到 YouTube 的自動播放，他們都在爭奪一件事：你的注意力。公司為了自己的利益而掠奪我們的心智[ TED Talk ]

社會信用體系

• Social Credit System - Using a secret algorithm, Sesame credit constantly scores people from 350 to 950, and its ratings are based on factors including considerations of 「interpersonal relationships」 and consumer habits - [summary][travel ban]（間歇性英語能力缺失症發作，不翻譯）
• Vitality - 健康保險公司，提供基於健身追蹤器數據訪問的交易[ 摘要 ]

監控

• SenseTime＆Megvii - 基於面向深度學習演算法的人臉識別技術，SenseFace 和 Megvii 提供智能視頻分析集成解決方案，用於目標監控，軌跡分析，人口管理[ 摘要 ] [ 福布斯 ]
• Uber God View - 優步的「上帝視角」，讓優步員工看到了城市中的所有 Uber，以及等車用戶的所有個人信息[ 榮耀之車]
• Palantir - 一家專註於預測政策、情報和軍事防禦系統的 10 億美元級別的 AI 初創公司[ 摘要 ]

垃圾 AI 的剋星

下面這些都是開源的，是那些不好的 AI 的剋星。

• Data Selfie - 瀏覽器擴展，可以在你訪問 Facebook 的時候記錄你，給你提供剛才的數據痕迹，根據演算法預測你的個性[ 代碼 ]
• AdNauseam - 輕量級瀏覽器擴展，它的作用比較迷幻，用於方及網路廣告追追蹤，說的簡單點，你打開一個網頁，如果你點擊了一些網站就會被記錄傾向，而這個軟體就是讓你打開一個網站，它把上面所有的廣告都給點個遍，防止廣告商知道你的傾向。[ 代碼 ]（雖然初衷是好的，但是打開一個新網站就把廣告點個遍很智障）
• BS檢測器 - 瀏覽器擴展，搜索頁面上的不可靠來源並標註出來。[ 代碼 ]
• Snopes.com - 由大衛·米克爾森創建，該項目始於 1994 年，現已成長為互聯網上歷史最悠久，規模最大的事實核查網站，被記者，民間人士和非專業人士廣泛認可。
• Facebook容器 - Facebook 容器將你的 Facebook 活動與其他網路活動隔離開來，以防止 Facebook 通過第三方 Cookie 追蹤你[ 代碼 ]（針對 Facebook 的沙盒）

原文：daviddao/awful-ai

極光日報，極光開發者旗下媒體。

每天導讀三篇英文技術文章。

推薦閱讀：