算法的剝奪與貢獻

(從我一個尊敬的作家,賽斯·高汀

當我們在缺乏的狀況中,我們需要做出個選擇。

誰會被錄用,哪個網站顯示在搜索結果的頂部,或許誰能得到貸款。

儘管我們可以逐個案例地做出選擇,但是我們還是依賴算法。一系列編碼步驟,推論和決策啟發法,表面上隨著收集更多數據而變得更好。

在這一點上,很明顯的是算法正在重塑我們的文化。它們決定著社交媒體網絡如何無處不在地顯示內容,搜索引擎如何挖出突出的網站,AI如何做出決定誰能上飛機還是不行,誰能借錢還是不貸的決定。

而且算法不是中立的。他們不可能是中立的。每個決定都有其後果,而且與勾股定理不同是,沒有只一個正確的答案,只是從現在開始或以後一個選擇,整個過程都是如此。

當算法做出剝奪的措施是去發現社會的一種自私或有缺陷的元素,並放大那缺陷來獲取短期的利益。它能發現個人可能具有的習慣或本能,並利用他們做一些有益於算法製造商的事情,但不會對文化或用戶有什麼長遠的利益。

當算法做出貢獻的措施是去放大我們天性中更好的天使,幫助我們為自己和我們關心的人做我們想長遠地有益的事情。

對於壟斷者,上市公司,資金雄厚的初創公司乃至非營利組織尋來說,這挑戰都是:您是否有膽量去構建一項為之自豪但在短期內看不到回報的算法嗎?

因為如果答案是否,那麼指責系統不善是沒有的。因為這您就是代表著這個系統,我們都是。因此至關重要的是,當我們擁有無形和槓桿算法的力量,我們也必須了解自己對算法所造成的影響責任來創建和維護它們。