一種算法正在使用政府?dāng)?shù)據(jù)告訴那些來自低社會經(jīng)濟背景的人完成大學(xué)的可能性，但隱私專家表示，它可以用于早期干預(yù)而不是沮喪。維多利亞州高等教育招生中心的一位代表透露，在低社會經(jīng)濟家庭中出生的年輕人可以使用建立在政府收集的數(shù)據(jù)上的算法來確定他們是否應(yīng)該為他們的高等教育而煩惱。據(jù)稱，周三在悉尼召開的Data + Privacy亞太會議上，一家未具名的公司正在研究如何使用關(guān)于社會經(jīng)濟背景的“非常詳細(xì)的信息”，以創(chuàng)建年輕人可以進入并插入數(shù)據(jù)的平臺。確定他們繼續(xù)上大學(xué)的可能性。“這個小組一直致力于教育工作者可能會感到震驚的計劃，孩子們會在這些計劃中輸入，并且會對他們說，'根據(jù)您的社會經(jīng)濟背景和您的父母歷史等，您在大學(xué)時表現(xiàn)不佳'。 ..或者你的賠率很低，“招生中心代表解釋說。

由于各種原因，澳大利亞三級招生中心收集的大量數(shù)據(jù)被授權(quán)進入各個政府部門，但當(dāng)數(shù)據(jù)提供給其他公司時，道德中心的Simon Longstaff博士說道德管理工作的討論需要有。

“我懷疑政府 - 在這種情況下就像許多人一樣 - 在沒有考慮道德層面的情況下采取了行動，”朗斯塔夫說。“大多數(shù)時候，道德問題都出了問題，不是因為人們是邪惡的......而是因為'每個人都在這樣做'。”

Longstaff表示，這種數(shù)據(jù)使用會對世界造成嚴(yán)重破壞，并質(zhì)疑負(fù)責(zé)數(shù)據(jù)的相關(guān)政府實體是否采取行動并為誤解公司收集數(shù)據(jù)的目的而道歉。

前新南威爾士州副隱私專員兼塞林格隱私主任安娜約翰斯頓在接受ZDNet采訪時表示，這種類型的數(shù)據(jù)分析既有正面影響，也有負(fù)面影響。她說，首先需要詢問有關(guān)數(shù)據(jù)收集的原因，然后是大學(xué)或個人將要使用這些信息。

“正確的做法是利用這些信息為需要它的學(xué)生制定早期干預(yù)策略，”約翰斯頓說。

然而，另一方面，一個有商業(yè)頭腦的大學(xué)可能會說他們根本不會招收失敗風(fēng)險最高的學(xué)生。

“這顯然是一種歧視性的結(jié)果 - 一種不道德和非法的結(jié)果 - 但這是這類分析的潛在終點，”她解釋道。“你還需要考慮剖析的危險和學(xué)生的預(yù)定目的地。”

約翰斯頓認(rèn)為每個人都需要能夠證明算法錯誤。

她說，即使收集到的個人信息是為了積極使用，基于天生的特征，在有機會做出自己的人生決定之前，就會把某人放在一個盒子里。

“如果您正在嘗試制定風(fēng)險概況或風(fēng)險指標(biāo)......您不僅要根據(jù)他們來自的背景來計算他們的失敗風(fēng)險，還要考慮他們在機構(gòu)中的實際行為，因此考試成績，出勤率，然后針對最需要的學(xué)生進行目標(biāo)干預(yù)。“她補充道。

“如果學(xué)生在大學(xué)的第一天被告知，由于他們來自錯誤的郵政編碼，他們有失敗的風(fēng)險，這可能會成為該學(xué)生的一個破壞性的自我實現(xiàn)的預(yù)言，而你想要做的就是說對于那些在這方面苦苦掙扎的人來說，“這里有一些我們必須幫助你的資源”。

澳大利亞數(shù)據(jù)治理局(DGA)是負(fù)責(zé)建立數(shù)據(jù)行業(yè)標(biāo)準(zhǔn)的獨立機構(gòu)，上個月發(fā)布了一份公眾咨詢業(yè)務(wù)守則草案，作為為負(fù)責(zé)任的收集，使用，管理制定行業(yè)標(biāo)準(zhǔn)和基準(zhǔn)的努力的一部分。和披露數(shù)據(jù)。

該守則草案[PDF]造成了沉重重點做好“無損害”給客戶，突出這意味著企業(yè)將被要求“用最大的努力”，以確保它們不會導(dǎo)致傷害的個體作為集合的結(jié)果，使用或披露其個人信息。

但是，由于DGA對組織沒有法律效力，它將依靠組織的道德和道德性質(zhì)來執(zhí)行其代碼所規(guī)定的規(guī)則。