Artificial intelligence: How to avoid racist algorithms

algorithm 【名詞】 アルゴリズム、演算手順

artificial 【形容詞】 人工的な

avoid 【他動詞】 を避ける

intelligence 【名詞】 知能、情報

racist 【名詞】 民族主義者

There is growing concern that many of the algorithms that make decisions about our lives - from what we see on the internet to how likely we are to become victims or instigators of crime - are trained on data sets that do not include a diverse range of people.

algorithm 【名詞】 アルゴリズム、演算手順

concern 【他動詞】 に関係がある、を心配する

crime 【名詞】 犯罪

data 【名詞】 データ

decision 【名詞】 決定、決心、結論

diverse 【形容詞】 まざまな（形を取り得る）、種々の、多様性のある、異なった、別の

include 【他動詞】 を含む

like 【形容詞】 似ている、～のような

likely 【形容詞】 ありそうな

make 【動詞】 作る

range 【名詞】 1.列、並び、山脈 2.範囲、幅 3.航続距離 4.射程 5.調理用レンジ

range 【自・他動詞】 1.動く、変動する 2.並ぶ、広がっている 3.及ぶ 4.分布する 5.歩き回る、さまよう 6.～を並べる、整列させる、整理する、分類する 7.～を求めて探し回る

victim 【名詞】 犠牲者、いけにえ

instigators

The result can be that the decision-making becomes inherently biased, albeit accidentally.

decision-making 【名詞】 意志決定

inherent 【形容詞】 生まれつきの、生得の、生来の、先天的な、本来備わっている、持ち前の、内在する

make 【動詞】 作る

result 【名詞】 結果、結末、計算結果、成績、業績

result 【動詞】 結果として生じる、起こる、～の結果となる、終わる、帰着する

biased albeit accidentally

Try searching online for an image of "hands" or "babies" using any of the big search engines and you are likely to find largely white results.

engine 【名詞】 エンジン、機関、動力

image 【名詞】 1.画像、映像、像 2.イメージ、印象 3.心に浮かんだ映像、想像 4.彫像、銅像、肖像 5.瓜ふたつ 6.化身、体現

image 【他動詞】 1.～を撮像する 2.～を心に描く、想像する

largely 【副詞】 大部分は、大いに

like 【形容詞】 似ている、～のような

likely 【形容詞】 ありそうな

online 【名詞】 オンライン

result 【名詞】 結果、結末、計算結果、成績、業績

result 【動詞】 結果として生じる、起こる、～の結果となる、終わる、帰着する

search 【名詞】 サーチ、捜索、探索、検索

search 【自・他動詞】 を捜索する、探索する、検索する、調査する

In 2015, graphic designer Johanna Burai created the World White Web project after searching for an image of human hands and finding exclusively white hands in the top image results on Google.

creat 【他動詞】 〜を作る、設ける

create 【他動詞】 を創造する

design 【自動詞】 設計する

exclusive 【形容詞】 1.締め出す、排外的な、排他的な 2.分け合わない、共有しない、独占する 3.唯一の、一つだけの

google 【名詞】 〈企業〉グーグル

graphic 【形容詞】 図画の、図形の、グラフィックの、図式的な、写実的な、あからさまな

graphic 【名詞】 図、図形、絵、地図、グラフ

human 【形容詞】 1.人の、人間の 2.人間的な、人間らしい

human 【名詞】 ヒト、人間

image 【名詞】 1.画像、映像、像 2.イメージ、印象 3.心に浮かんだ映像、想像 4.彫像、銅像、肖像 5.瓜ふたつ 6.化身、体現

image 【他動詞】 1.～を撮像する 2.～を心に描く、想像する

project 【名詞】 計画、事業、プロジェクト、研究課題

project 【自・他動詞】 突き出る、突出する提案する、～を投影する、発射する、（印象・イメージを）与える、～を計画する、企画する

result 【名詞】 結果、結末、計算結果、成績、業績

result 【動詞】 結果として生じる、起こる、～の結果となる、終わる、帰着する

search 【自・他動詞】 を捜索する、探索する、検索する、調査する

web 【名詞】 ウェブ

Johanna Burai World White Web

Her website offers "alternative" hand ...原文はこちら

alternative 【形容詞】 二者択一の

alternative 【名詞】 1.代わりとなるもの、代替物、取って替わるもの、別の［代わるべき］手段 2.選択肢 3.二者択一

balance 【名詞】 均衡、天びん

balance 【動詞】 バランスをとる、平衡を保つ、つり合う

content 【形容詞】 ～に満足している

content 【名詞】 1.入っているもの、内容（物）、中身、目次 2.容量、含有量、容積、体積 3.満足

content 【他動詞】 ～を満足させる

engine 【名詞】 エンジン、機関、動力

offer 【他動詞】 を提供する、を申し出る

online 【名詞】 オンライン

picture 【他動詞】 1.～を思い描く、想像する 2.～を絵に描く、描写する

search 【名詞】 サーチ、捜索、探索、検索

search 【自・他動詞】 を捜索する、探索する、検索する、調査する

used 【形容詞】 使い古した、中古の

website 【名詞】 ウェブサイト

creators redress

Google says its image search ...原文はこちら

appear 【他動詞】 現れる

connect 【他動詞】 をつなぐ、を関係させる

content 【形容詞】 ～に満足している

content 【名詞】 1.入っているもの、内容（物）、中身、目次 2.容量、含有量、容積、体積 3.満足

content 【他動詞】 ～を満足させる

describe 【他動詞】 を描写する

frequency 【名詞】 頻度、周波数

google 【名詞】 〈企業〉グーグル

image 【名詞】 1.画像、映像、像 2.イメージ、印象 3.心に浮かんだ映像、想像 4.彫像、銅像、肖像 5.瓜ふたつ 6.化身、体現

image 【他動詞】 1.～を撮像する 2.～を心に描く、想像する

include 【他動詞】 を含む

online 【名詞】 オンライン

reflection 【名詞】 1.《物理》〔光や音などの〕反射 2.反射光［音・熱・像］ 3.省察、内省、熟考 4.〔熟慮の末に生まれた〕アイデア、考え

result 【名詞】 結果、結末、計算結果、成績、業績

result 【動詞】 結果として生じる、起こる、～の結果となる、終わる、帰着する

search 【名詞】 サーチ、捜索、探索、検索

search 【自・他動詞】 を捜索する、探索する、検索する、調査する

value 【名詞】 価値、値打ち、重要性、値、数値、価格

value 【他動詞】 ～を（高く）評価する、重視する、大事にする、尊重する、重んじる、大切にする、〔命が〕惜しい

web 【名詞】 ウェブ

Ms Burai, who no longer ...原文はこちら

believe 【他動詞】 を信じる

improve 【他動詞】 を改良する、よくなる

long 【null】 長い、遠くまで達する、～の長さ（量、期間）の

long 【自動詞】 熱望する

maintain 【他動詞】 を維持する、～と主張する

thing 【名詞】 物、物事

website 【名詞】 ウェブサイト

Burai

"I think it's getting better... ...原文はこちら

it's 【短縮形】 <略>it is の短縮形

"When I started the project ...原文はこちら

awareness 【名詞】 認識、自覚、気付いていること

project 【名詞】 計画、事業、プロジェクト、研究課題

project 【自・他動詞】 突き出る、突出する提案する、～を投影する、発射する、（印象・イメージを）与える、～を計画する、企画する

shock 【他動詞】 に衝撃を与える

there's 【短縮形】 <略>there is の短縮形

The Algorithmic Justice League (AJL) ...原文はこちら

Massachusetts 【名詞】 〈地名〉米国マサチューセッツ州、米国北東部、州都はボストン

justice 【名詞】 正義、司法、裁判、司法官、裁判官、判事

launch 【他動詞】 を発射する、を進水させる、(事業を)始める

technology 【名詞】 科学技術

league 【名詞】 1.同盟、連盟、リーグ 2.連盟参加者・団体・国] 3.(スポーツの)競技連盟 4.(同質の)グループ

AJL postgraduate Algorithmic Justice League Joy Buolamwini Massachusetts Institute of Technology

She was trying to use ...原文はこちら

dark 【形容詞】 暗い、黒い、濃い、悪意のある

face 【他動詞】 に直面する、向いている

process 【名詞】 〔あることを成し遂げるための〕一連の行為、過程、 1.〔時間の〕過程、進行 2.〔法的な〕手続き

project 【名詞】 計画、事業、プロジェクト、研究課題

project 【自・他動詞】 突き出る、突出する提案する、～を投影する、発射する、（印象・イメージを）与える、～を計画する、企画する

recognition 【名詞】 1.見覚え、聞き覚え 2.真価を認めること、正しく評価されること 3.感謝（の言葉）、お礼、表彰 4.〔議長が与える〕発言の許可 5.〔国際法における〕国家の承認 6.《コ》認識、認証 7.《生物》〔分子の〕認識

skin 【名詞】 皮膚、皮

software 【名詞】 ソフトウェア

facial Buolamwini

"I found that wearing a ...原文はこちら

dark 【形容詞】 暗い、黒い、濃い、悪意のある

found 【他動詞】 を設立する

make 【動詞】 作る

mask 【名詞】 1.覆面、仮面、面 2.防護用マスク 3.覆い隠すもの、偽装、口実

mask 【他動詞】 1.～を仮面で覆う、マスクで覆う 2.～を隠す

skin 【名詞】 皮膚、皮

system 【名詞】 組織、体系

work 【動詞】 働く、仕事する、勉強する、取り組む

"It was the reduction of ...原文はこちら

compute 【他動詞】 を計算する

face 【他動詞】 に直面する、向いている

model 【名詞】 模型、模範、形式

model 【自・他動詞】 模型を作る、原型を作る、モデルになる、～にならって作る、～の模型を作る、～の雛型を作る、かたどる、形に表す

read 【動詞】 読む

reduction 【名詞】 短縮、縮図、減少、削減、縮小、減退、収縮

It was not the first ...原文はこちら

encounter 【他動詞】 に偶然出くわす

Five years earlier, she had ...原文はこちら

mate 【名詞】 仲間、片方、友達、連れ合い、歯車、助手、航海士、配偶者

mate 【名詞】 マテ茶、〈樹木〉マテ、モチノキ科の常緑樹。葉をマテ茶に利用

mate 【自・他動詞】 交尾する、仲間になる、結婚する、一致する、対になる動物を）～とつがわせる、～と結婚させる、一致させる

skinned

"I had mixed feelings. I ...原文はこちら

feeling 【名詞】 感覚、気分

frustrate 【他動詞】 を挫折させる

mix 【他動詞】 を混ぜる、混ざる

persist 【自動詞】 固執する、主張し続ける、持続する

still 【形容詞】 動かない、じっとしている、静かな

still 【副詞】 まだ、いまだに、今もなお

still 【名詞】 静寂、スチル写真、静止画

"And I was amused that ...原文はこちら

amuse 【他動詞】 をおかしがらせる、楽しませる

mask 【名詞】 1.覆面、仮面、面 2.防護用マスク 3.覆い隠すもの、偽装、口実

mask 【他動詞】 1.～を仮面で覆う、マスクで覆う 2.～を隠す

work 【動詞】 働く、仕事する、勉強する、取り組む

Ms Buolamwini describes the reaction ...原文はこちら

describe 【他動詞】 を描写する

immense 【形容詞】 巨大な

intense 【形容詞】 強烈な、激しい

reaction 【名詞】 反応、反動

Buolamwini AJL

This ranges from teachers wanting ...原文はこちら

algorithm 【名詞】 アルゴリズム、演算手順

bias 【名詞】 偏見

check 【他動詞】 を点検する、を抑制する

experience 【名詞】 経験、体験

experience 【動詞】 ～を経験する、～に悩む

own 【他動詞】 を所有する、を認める

range 【名詞】 1.列、並び、山脈 2.範囲、幅 3.航続距離 4.射程 5.調理用レンジ

range 【自・他動詞】 1.動く、変動する 2.並ぶ、広がっている 3.及ぶ 4.分布する 5.歩き回る、さまよう 6.～を並べる、整列させる、整理する、分類する 7.～を求めて探し回る

report 【自動詞】 報告する、報道する

researcher 【名詞】 研究者、調査員

sign 【他動詞】 に署名する、合図する

work 【動詞】 働く、仕事する、勉強する、取り組む

And there seem to be ...原文はこちら

quite 【副詞】 まったく、かなり

seem 【他動詞】 のように見える、…であるように見える

One researcher wanted to check ...原文はこちら

algorithm 【名詞】 アルゴリズム、演算手順

cancer 【名詞】 がん

check 【他動詞】 を点検する、を抑制する

dark 【形容詞】 暗い、黒い、濃い、悪意のある

identify 【自・他動詞】 （人・生物、物質、物など）を特定する、確認する、同定する、同一視する

melanoma 【名詞】 <医学>悪性黒色腫、メラニン細胞由来の悪性腫瘍、皮膚がんの一種

research 【自・他動詞】 ～を調査する、研究する

researcher 【名詞】 研究者、調査員

skin 【名詞】 皮膚、皮

work 【動詞】 働く、仕事する、勉強する、取り組む

"I'm now starting to think, ...原文はこちら

make 【動詞】 作る

represent 【動詞】 を表す、を代表する

system 【名詞】 組織、体系

work 【動詞】 働く、仕事する、勉強する、取り組む

tech 【略語】 <略> 1.=technology、科学技術 2.=technician、技術者

Buolamwini

"Are we also looking to ...原文はこちら

definitely 【副詞】 1.確かに、間違いなく、疑いなく 2.最終的に、結論として、結局 3.正確に、厳密に 4.はっきりと、明確に

hit 【他動詞】 を打つ、にぶつかる、を襲う

make 【動詞】 作る

overweight 【形容詞、名詞】 重量［体重］超過の、太り過ぎ（の）

overweight 【他動詞】 ～に荷を積み過ぎる、負担をかけ過ぎる

report 【自動詞】 報告する、報道する

system 【名詞】 組織、体系

work 【動詞】 働く、仕事する、勉強する、取り組む

chord

Ms Buolamwini thinks the situation ...原文はこちら

arise 【自動詞】 発生する、起こる

diversity 【名詞】 1.多様性 2.相違点

document 【他動詞】 1.～を文書化する、記録する 2.～を文書で証明する、立証する、実証する 3.～に証拠書類を出す

industry 【名詞】 産業、勤勉

lack 【名詞】 不足、欠如

lack 【他動詞】 が欠乏している

partly 【副詞】 一部分は、ある程度は、部分的に、一部は

situation 【名詞】 位置、状況

within 【副詞】 内部で、内側は

within 【前置詞】 ～の中［内部・内側］で、～以内で、～のうちに、～の範囲内で、人の心の中で、内心は

tech 【略語】 <略> 1.=technology、科学技術 2.=technician、技術者

Buolamwini

Every year the tech giants ...原文はこちら

diversity 【名詞】 1.多様性 2.相違点

grim 【形容詞】 厳しい、不屈な、気味の悪い

make 【動詞】 作る

read 【動詞】 読む

release 【他動詞】 を解放する、を公表する

report 【自動詞】 報告する、報道する

tech 【略語】 <略> 1.=technology、科学技術 2.=technician、技術者

You get the picture. But ...原文はこちら

algorithm 【名詞】 アルゴリズム、演算手順

picture 【他動詞】 1.～を思い描く、想像する 2.～を絵に描く、描写する

"If you test your system ...原文はこちら

argue 【他動詞】 を論じる、説得する

like 【形容詞】 似ている、～のような

like 【名詞】 好み、趣味、似た人、似た物

like 【他動詞】 望む、欲する、好む、気に入る、適する、楽しむ

system 【名詞】 組織、体系

work 【動詞】 働く、仕事する、勉強する、取り組む

there's 【短縮形】 <略>there is の短縮形

Joy Buolamwini

Of the 44 winners of ...原文はこちら

algorithm 【名詞】 アルゴリズム、演算手順

base 【他動詞】 ～の基礎を形成する、～の基礎を…に置く

beauty 【名詞】 美、美人

contest 【他動詞】 1.〔賞・議席などを〕～を争う 2.～を議論する 3.〔選挙などの結果に〕～に異議をとなえる 4.争う、議論を戦わす

country 【名詞】 国、田舎

different 【名詞】 違った、さまざまの

judge 【他動詞】 を判定する、を裁く

upload 【動詞】 アップロードする

handful 【名詞】 1.手一杯、ひとつかみ、ひと握り、ひとつかみの～ 〔@% of ～@〕 2.2〔@a %@〕 少量、少数 、〔@% of ～@〕少数の～

Asian 【形容詞、名詞】 1.アジアの、アジア人の 2.アジア人

selfie 【名詞】 1.自分撮り、自分撮りの写真

non

Alex Zhavoronkov, Beauty.AI's chief science ...原文はこちら

beauty 【名詞】 美、美人

chief 【形容詞】 主要な、第一の

chief 【名詞】 首長、頭

data 【名詞】 データ

diverse 【形容詞】 まざまな（形を取り得る）、種々の、多様性のある、異なった、別の

guardian 【名詞】 保護者、守護者、監視者

intelligence 【名詞】 知能、情報

officer 【名詞】 将校、役人

result 【名詞】 結果、結末、計算結果、成績、業績

result 【動詞】 結果として生じる、起こる、～の結果となる、終わる、帰着する

train 【名詞】 列車、列、結果、余波、導火線

used 【形容詞】 使い古した、中古の

flaw 【自・他動詞】 1.(物に)～にひびを入れる、～を傷物にする 2.(作品を)～をダメにする・損なう 3.(協定などを)～を破る、～を無効にする 4.(物が)ひび・傷・割れが入る

AI's AI artifical Alex Zhavoronkov

"If you have not that ...原文はこちら

actual 【形容詞】 実際の

actually 【名詞】 実際に

data 【名詞】 データ

result 【名詞】 結果、結末、計算結果、成績、業績

result 【動詞】 結果として生じる、起こる、～の結果となる、終わる、帰着する

within 【副詞】 内部で、内側は

within 【前置詞】 ～の中［内部・内側］で、～以内で、～のうちに、～の範囲内で、人の心の中で、内心は

biased

On a more serious note, ...原文はこちら

according to 【null】 ～によると

US 【略語】 〈略〉United States of America、アメリカ合衆国

accord 【自動詞】 一致する

convict 【他動詞】 ～に有罪判決を下す、～に有罪を宣告する

criminal 【名詞】 犯罪者、犯人

dispute 【自・他動詞】 議論する、口論する、を議論する、について論争する

firm 【形容詞】 しっかりした、堅い、堅固な、安定した

firm 【名詞】 会社、商会、企業

firm 【動詞】 安定する、安定させる

found 【他動詞】 を設立する

identify 【自・他動詞】 （人・生物、物質、物など）を特定する、確認する、同定する、同一視する

like 【形容詞】 似ている、～のような

likely 【形容詞】 ありそうな

low 【名詞】 低い、低音の

note 【名詞】 音符、メモ、紙幣

note 【他動詞】 に気をつける、を書き留める

predict 【他動詞】 ～を予言する、予報する、予想する、予測する

risk 【名詞】 危険、恐れ

risk 【他動詞】 1.～を賭ける、危うくする 2.～の危険を承知でやる 3.敢えて～する（% to ～）

serious 【形容詞】 まじめな、重大な、(病気が)重い

software 【名詞】 ソフトウェア

used 【形容詞】 使い古した、中古の

website 【名詞】 ウェブサイト

AI reoffend incorrectly offenders offenders Propublica

Suresh Venkatasubramanian, an associate professor ...原文はこちら

Utah 【名詞】 〈地名〉ユタ、ユタ州

act 【名詞】 行為、(劇の)幕、法令、議定書

act 【自動詞】 行動する

act 【他動詞】 を演じる

associate 【他動詞】 を連想する、を連合させる、交際する

compute 【他動詞】 を計算する

professor 【名詞】 教授

still 【形容詞】 動かない、じっとしている、静かな

still 【副詞】 まだ、いまだに、今もなお

still 【名詞】 静寂、スチル写真、静止画

university 【名詞】 大学

visible 【形容詞】 目にみえる、明白な

creators AI Suresh Venkatasubramanian University of Utah

"The worst that can happen ...原文はこちら

BBC 【略語】 〈略〉British Broadcasting Corporation、英国放送協会、1927年設立

happen 【他動詞】 起こる、たまたま～する

realise 【自・他動詞】 〈英〉＝realize、理解する、悟る、自覚する、実感する、～を実現する

thing 【名詞】 物、物事

worst 【形容詞】 〈bad、illの最上級〉、最悪の、最も悪い

"In other words the concern ...原文はこちら

bias 【名詞】 偏見

concern 【他動詞】 に関係がある、を心配する

decision-making 【名詞】 意志決定

detect 【他動詞】 ～を見つける、〔存在など〕～に気付く、～を探知する、見抜く、〈電子工学〉～を検波する

grant 【他動詞】 を認める、を与える

human 【形容詞】 1.人の、人間の 2.人間的な、人間らしい

human 【名詞】 ヒト、人間

long 【null】 長い、遠くまで達する、～の長さ（量、期間）の

long 【自動詞】 熱望する

make 【動詞】 作る

prejudice 【名詞】 偏見、先入観

recognise 【動詞】 気づく、認知する

shift 【名詞】 〔人や状況などの〕交代、変更、変化、転換、交代勤務、変速、変移、遷移、偏移、〈コンピュータ〉桁ずらし、ビットシフト

shift 【自・他動詞】 変わる、移る、転換する、～を変える、～を移す、～を切り替える、シフトする

therefore 【名詞】 それゆえに、したがって

thing 【名詞】 物、物事

word 【名詞】 単語、発言、言葉、短い会話、約束

word 【他動詞】 ～を言葉で表す

skew

He is however optimistic about ...原文はこちら

optimistic 【形容詞】 楽観的な

progress 【名詞】 進歩、発達

progress 【自動詞】 前進する、進歩する

tech 【略語】 <略> 1.=technology、科学技術 2.=technician、技術者

"To say all algorithms have ...原文はこちら

algorithm 【名詞】 アルゴリズム、演算手順

make 【動詞】 作る

manifestation 【名詞】 1.明示、表明 2.兆し、現れ 3.〔政治的な〕示威行動 4.〔霊魂の〕出現

sense 【名詞】 感覚、分別、意味

sense 【他動詞】 を感じ取る

racist 【名詞】 民族主義者

"Not because it's impossible but ...原文はこちら

actual 【形容詞】 実際の

actually 【名詞】 実際に

impossible 【形容詞】 不可能な

work 【動詞】 働く、仕事する、勉強する、取り組む

it's 【短縮形】 <略>it is の短縮形

that's 【短縮形】 <略>that is の短縮形

"In the last three to ...原文はこちら

add 【他動詞】 を加える、を言いたす

discussion 【名詞】 討論、話し合い、討議、審議、協議、論考、考察

possible 【形容詞】 可能な、ありうる、できるだけの、予定される、見込まれる

possible 【名詞】 可能、可能性、有力候補 、最善、全力

solution 【名詞】 解決、溶解、溶液

He offers a number of ...原文はこちら

offer 【他動詞】 を提供する、を申し出る

Ms Buolamwini says she is ...原文はこちら

aware 【形容詞】 気づいて

hopeful 【形容詞】 希望に満ちた、有望な

hopeful 【名詞】 希望に満ちた人、候補者、希望者

improve 【他動詞】 を改良する、よくなる

potential 【形容詞】 潜在的な、可能性のある

situation 【名詞】 位置、状況

Buolamwini

"Any technology that we create ...原文はこちら

aspiration 【名詞】 強い願望、大志、あこがれ、呼吸、息を吸い込むこと

create 【他動詞】 を創造する

limitation 【名詞】 制限、極限、提出期限

reflect 【他動詞】 を反映する、を反射する、熟考する

technology 【名詞】 科学技術

"If we are limited when ...原文はこちら

develop 【自・他動詞】 ～を発達させる、～を発展させる、開発する、発達する、発育する

limit 【他動詞】 制限する、限定する、歯止めを掛ける

reflect 【他動詞】 を反映する、を反射する、熟考する

robot 【名詞】 ロボット

within 【副詞】 内部で、内側は

within 【前置詞】 ～の中［内部・内側］で、～以内で、～のうちに、～の範囲内で、人の心の中で、内心は

tech 【略語】 <略> 1.=technology、科学技術 2.=technician、技術者

that's 【短縮形】 <略>that is の短縮形

inclusive incorporated