現(xiàn)如今，社會(huì)醫(yī)療成本不斷飆升，一些國(guó)家政府和醫(yī)療公司開始寄希望于算法幫助他們分配有限的醫(yī)療資源，包括篩選出應(yīng)該向哪類人優(yōu)先提供醫(yī)療保障等等。

這種做法本身具有其合理性。但是反對(duì)者們稱這類自動(dòng)抉擇系統(tǒng)一旦出錯(cuò)，它帶來的損害將是成倍的，同時(shí)也會(huì)加劇矛盾與偏見，造成及其惡劣的后果。

關(guān)于這一點(diǎn)有一個(gè)現(xiàn)成的例子，2016年美國(guó)阿肯色州在一個(gè)州立殘疾人項(xiàng)目中借助了某個(gè)算法工具來為該州最為貧困的殘疾人們提供幫助。該項(xiàng)算法下，人們可以申請(qǐng)由政府來支付在家雇傭?qū)�業(yè)護(hù)工的費(fèi)用，這樣他們就可以不用搬去全職護(hù)理機(jī)構(gòu)。而在應(yīng)用這項(xiàng)算法之前，州政府一直是人為來判斷一個(gè)申情人一個(gè)星期應(yīng)該得到多少小時(shí)的照顧。

算法推出之后，申請(qǐng)人會(huì)事先做一份有關(guān)于他們健康問題的調(diào)查，包括詢問他們是否需要護(hù)理人員幫助吃飯或上廁所。在收集相關(guān)信息后，算法會(huì)計(jì)算出某個(gè)受益人能得到多少小時(shí)的照顧。隨即許多人就發(fā)現(xiàn)，與之前相比，他們得到的護(hù)理時(shí)間被大幅削減。因?yàn)樗惴ǜ�本就不適用于評(píng)估所有病例，例如殘疾人和腦癱患者。在向法院提出訴訟后，為申請(qǐng)人們提供法律援助的律師說道，當(dāng)算法本身出現(xiàn)問題時(shí)，它就成了最大的問題之一。

無獨(dú)有偶，各國(guó)各地的醫(yī)療系統(tǒng)也會(huì)用類似的算法工具來進(jìn)行福利分配，但時(shí)常也會(huì)有問題產(chǎn)生，產(chǎn)生的原因可能是數(shù)據(jù)缺失，也可能是受歷史數(shù)據(jù)影響等等，但通常情況下，由于人們很難探知到一個(gè)算法究竟是如何工作的，所以就算是利益被損害，也很難拿出有效的數(shù)據(jù)對(duì)使用方提出訴訟。

不過可以預(yù)想的是，即使存在一定風(fēng)險(xiǎn)，各國(guó)的醫(yī)療體系不會(huì)放棄借助算法工具來提高分配效率，如今，研究人員們正在探索如何使用人工智能來檢測(cè)皮膚癌，心臟病，眼疾及其他各類疾病。

醫(yī)護(hù)人員們甚至還在研究如何能以AI預(yù)測(cè)一個(gè)人的死亡，這可能是一項(xiàng)對(duì)護(hù)理人員的工作大有裨益的工具，不過要是這類工具工作出現(xiàn)差錯(cuò)，那可就是真正的非生即死了。