程式設計師的社會責任?

Programmers Are Having A Huge Discussion About The Unethical And Illegal Things They’ve Been Asked To Do

以下為上列英文文章的翻譯,由於本人非英文專業人員,文章不順或詞不達意皆屬正常.若有任何版權問題請告知,謝謝!


➤程式設計師們廣泛地討論關於他們過去被要求做過的那些不道德和非法情事

這週(2016/11/20)開始,一位程式設計師,同時也是老師, Bill Sourour ,寫了一篇一夕爆紅的文章,標題名為"那些讓我深感羞愧的程式碼".

文中他詳述了一個他年輕時在一家製藥公司擔任網頁程式設計師時的可怕經歷.全文值得一讀,但結論是,他在公司有意的欺瞞下,幫助公司設計一些遊走在藥品廣告法的邊緣的程式,以說服年輕女性服用特定藥品.

後來他發現這些藥已經被證實會讓憂鬱症惡化,而且至少有一名年輕女性因為服用了這個藥物而自殺.他也發現他的姐妹正在服用這藥物,並警告她不要再使用.

過了數十年後,他還是感到良心不安,他把這件事告訴了 Business Insider.在跟 Robert Martin 談過之後,受到了啟發寫下了一篇文章,叫 "The Future of Programming." Martin是一位在程式業界知名的程式設計師與講師,通常大家稱呼他為"Uncle Bob."

➤軟體工程師會"殺人"

Martin 在這次面談中表示,軟體工程師最好早點有自我監督的認知.

Martin 在影片裡這麼說:"讓我們來判斷一下,身為一個程式設計師意味著什麼?文明社會仰賴著我們,只是這個社會還沒有意識到"

他的觀點是,在今日世界,每一件我們做的事都跟軟體有關,像是買東西,打電話,開車,搭飛機.而事實上的確已經有幾十個人因為汽車上軟體的失效導致失去生命;同時亦有數百人因為飛機軟體控制系統的失效而身亡.

Martin 說:"雖然不是直接的,但我們正在殺人.而這情形只會每況愈下"

他也說,很多現象指出,軟體開發者在未來幾年將會面臨更多這類的挑戰.他引用了美國福斯汽車 (Volkswagen America) 的排氣造假事件.美國福斯執行長, Michael Horn ,一開始在公聽會時把排氣造假醜聞事件歸咎於公司的軟體工程師,宣稱是這些工程師"不知為何"的個人行為.在檢察官指控美國福斯排氣造假是由公司最高層所下的指示而且還試圖掩飾後, Horn 辭去了執行長的職務.

但 Martin 也指出,"詭異的是,寫出這些程式碼的,是軟體工程師.是我們.有一些工程師寫下了造假的程式.你覺得他們知道嗎?我覺得他們應該知道."

最後,Martin做出沉重的警告,我們應該對這種情形有所行動,否則有一天,某個軟體工程師有可能會製造出使成千上萬人傷亡的災難.

Sourour 指出,軟體已經不僅僅只是能恴外殺人或是故意污染空氣.軟體已經在華爾街企業被用來操縱股市.

Sourour 說:"沒有那些造假的程式碼,這是不可能做到的."

➤程式設計師的告白

Sourour 的"羞愧"貼文在知名網站 Hacker News 和 Reddit 一夕爆紅,而它也造成了接下來一連串程式設計師們的自白回應,回應中提到了關於那些程式設計師曾經被要求做的不道德,有時是違法的事情.

其中一篇回應提到了有間公司,即使原本有加入該公司的會員在選擇退出會員後,公司還是會保留他們的email(這有可能違反聯邦法).之後,程式設計師再寫相關的程式幫公司的業務針對這些退出的會員做相關的推銷.當這位程式設計師向他們公司的技術長反應這很不道德時,技術長要他閉嘴.而現在這位程式設計師"在新創公司工作,內容是搜集大量的個人位置資料"

另一位程設師是寫廣播設備軟體,被要求使用那些保留給緊急服務用的頻道,因為這樣可以讓設備有更快的速度.他說:"快但是違法,而且會妨礙緊急通訊".他拒絕這麼做,但也提到"總是有工程師願意做",只為了順從上級的命令.

另一個人提到在實習的時候,他拿到了一些從競爭對手的網頁裡複製過來的程式碼,被公司上級要求用這些程式碼來開發產品,他老闆跟他說這"只是給投資者的一個展示程式",他覺得他好像被要求做欺騙投資者的事.

另一個故事是被要求篡改客戶的金融相關資料.這個程設師跟他的主管一樣,拒絕做這件事.他說"幾年後,看到這個客戶因為逃漏稅被逮捕".

另一個是最近的案例,他被要求"把一個賭博遊戲偽裝成一個基礎開發/資源管理的策略性遊戲",針對孩童市場...他說:"我也已經不在那家公司工作了"

➤缺乏道德教育的程式設計速成班

在上面提到的這些故事裡,一個共同的現象是如果程設師不願意做這些不道德或違法的要求,公司就去找另一個人來做.現在的情況可能真的是這樣,但Martin指出:"這終究是一種推卸責任的說法"

Martin 說:"事實上我們(程設師)主宰著世界,但我們還沒有認知到這件事.有些人以為是他們宰制世界,事實卻是,他們寫下宰制的規則,然後把規則交給我們(程設師).之後我們把規則寫成程式執行,讓所有事變為可能"

他同時提出警告,如果程設師再不開始自我管理,在可能造成數以千計的人類傷亡這類毀天滅地的事件發生過後,立法者將會主動來管理他們,主宰他們在工作上的大小事,包括管制他們可以用哪種語言來開發軟體.

一個明顯的解決方案是,開始進行道德教育課程.這個道德教育課程在對於四年制的資訊工程系學生幾乎可以說是強制性的.這方面的權威書籍是 Sara Baase 所著的 "A Gift of Fire: Social, Legal, and Ethical Issues for Computing Technology."

Sourour 說:"不幸的是,現今很多的軟體工程師可能是透過網路課程自學的,或是從程式設計速成班學習程式設計.這類的學習歷程,很少,甚至完全沒有任何類型的程設道德訓練.(大多數)網路課程或速成班的主要目地是儘可能快的訓練出能夠寫程式的人以滿足市場的人力需求."

Sourour 希望這些網路課程與速成班可以"開始教授關於程式設計所伴隨的道德責任".

然而事實上, Martin 跟 Sourour 相信,程設師們真正需要的是一個能夠管理與監督他們專業的組織,就像其它的產業一樣.雖然,像 Association for Computer Machinery 跟 IEEE 這些組織已經開始有所行動,著手制定一些程設道德相關的規範與課程,但到目前為止,還是沒有一個真正能夠管理與監督程設師專業的組織存在.