인공 지능 알고리즘이 일상 생활에 영향을 미치는 결정을 내리는 세상을 상상해보십시오. 이제 그들이 편견을 가지고 있다고 상상해보십시오.
데이터 과학자, 하버드 박사 및 저자 캐시 오닐 (Cathy O'Neil)은이 세상이 우리가 이미 살고있는 세상이라고 말합니다. (O'Neil 박사와의 토론 중 하나를 읽으십시오). 우리는 빅 데이터 시대의 편견에 대해 우리가 할 수있는 일을 찾기 위해 National Book Award 후보와 함께 앉았습니다. CT: AI는 편견이 있습니까?
CO: 명시 적으로 공정하지 않은 모든 알고리즘은 편견이있는 것으로 가정해야합니다. 사람들로서 우리는 편견이 있기 때문입니다. 우리가 그것을 인정하고 우리의 가치와 데이터로 이러한 알고리즘을 만들고 있다면, 어떤 일이 공정하게 이루어 지도록 마술 같은 일이 발생했다고 가정해서는 안됩니다. 거기에는 마술이 없습니다.
CT: 알고리즘은 어디에서 데이터를 얻습니까?
CO: 알고리즘에 따라 다릅니다. 정치적 시장 타겟팅이나 광고 또는 영리 대학 및 약탈 적 대출과 같은 소셜 미디어는 소셜 미디어 나 온라인에서도 수집되지 않는 데이터가 많습니다.
데이터 수집은 구직, 직장에서 일하거나 대학에 가거나 감옥에가는 것과 같이 점점 실생활에 묶여 있습니다. 그런 것들이 우리가 개인 정보 보호법을 우회 할 수있는 것은 아닙니다. 알고리즘의 대상이되는 사람들은 힘이없고 정보를 수집하고 알고리즘을 구축하고 배포하는 사람들은 모든 힘을 가지고있는 힘의 문제입니다. 형사 피고인 인 경우 프라이버시 권리가 없으며, 직장에서 프라이버시 권리가 없으며, 직업을 신청할 경우 프라이버시 권리를 많이 가지고 있지 않습니다. 장래 고용주가 귀하에게 질문 한 질문에 대답하지 않으면 직업을 얻지 못할 수 있습니다.
우리는 알고리즘과 해를 끼칠 수있는 프라이버시와 힘에 대해 더 많이 생각해야합니다.
CT: 더 잘하기 위해 무엇을 할 수 있습니까?
CO: 이 알고리즘은 본질적으로 완벽하지 않다는 것을 인정하고 결함에 대해 테스트합니다. 우리는 알고리즘이 어떤 종류의 차별적이거나 불공평 한 방식이 아닌 원하는 방식으로 작동하는지 확인하기 위해 특히 감사, 감시, 특히 고용, 범죄 형 선고 또는 직무 담당자 평가와 같은 중요한 결정에 대한 감사를 받아야합니다.
아일 사 존슨 / © Culture Trip
CT: 데이터 중심 미래를위한 최상의 시나리오와 최악의 시나리오는 무엇입니까?
CO: 최악의 시나리오는 현재 우리가 알고있는 것입니다. 비록 우리가 지금까지 더 잘 알고 있어야하더라도 알고리즘이 완벽 할 것으로 맹목적으로 기대합니다. 그리고 우리는 과거의 불의와 불공평을 전파합니다. 그리고 우리는 이러한 알고리즘의 결함을 계속 무시합니다.
가장 좋은 시나리오는 이러한 알고리즘이 본질적으로 인간보다 나쁘지 않다는 것입니다. 우리는 인간으로서 원하는 것을, 우리가 노력하는 것을 결정합니다. 우리는 사회가 원하는 모습을보고 그 가치를 가르칩니다. 이를 성공적으로 수행하면 이러한 알고리즘이 인간보다 낫습니다.
CT: 일상적인 사람들이 할 수있는 역할은 무엇입니까?
CO: 개인이 할 수있는 가장 중요한 역할은 암묵적으로 알고리즘을 신뢰하지 않는 것입니다. 엄청난 양의 회의론을 갖기 위해. 알고리즘에 대해 평가를 받고 있다면 '이것이 공정하다는 것을 어떻게 알 수 있는지, 어떻게 도움이되는지, 정확한지 어떻게 알 수 있습니까? 오류율은 얼마입니까? 이 알고리즘은 누구에게 실패합니까? 여성이나 소수 민족이 실패한가? ' 그런 종류의 질문을하십시오.
회의론을 넘어서 두 번째로, 알고리즘이 자신이나 다른 사람에게 불공평하다고 생각되면 다른 사람들과 구성하는 것입니다. 최근의 예는 교사들입니다. 부가 가치 교사에 대한 통계 모델은 끔찍하고 거의 임의의 숫자 생성기입니다. 그러나 그들은 미국 전역에서 어떤 교사가 임기를 받아야하는지, 어떤 교사를 해고해야하는지 결정하는 데 사용되었습니다.
저의 제안은 그들이 노조를 철회하도록하는 것입니다. 그리고 이것은 어떤 곳에서 일어났습니다. 그러나 점수 시스템의 수학적 특성으로 인해 저항이 거의 없었던 것은 놀라운 일입니다.
CT: 어떻게 '빅 데이터'에 들어갔습니까?
CO: 저는 월가에서 일하면서 내부에서 금융 위기를 목격했습니다. 나는 수학을 사용하여 사람들을 이용하거나 사람들을 속이는 방식에 혐오감을 느꼈습니다. 나는 수학적 거짓말에서 나올 수있는 종류의 손상, 즉 '수학의 무기화'를 보았습니다.
나는 그것을 피하기로 결정했기 때문에 Occupy Wall Street에 입사하여 데이터 과학자로 일하기 시작했습니다. 나는 우리가 월스트리트 외부에서 발생하는 잘못된 데이터 알고리즘과 관련하여 결함과 오해의 소지가 있다는 것을 천천히 깨달았으며 그로 인해 많은 피해를 입게 될 것임을 느꼈습니다. 차이점은 전 세계 사람들이 금융 위기를 발견했지만 사람들이 일반적으로 개인 수준에서 발생하기 때문에 이러한 빅 데이터 알고리즘의 실패를 눈치 채지 못할 것이라고 생각했습니다.
Dr O'Neil과의 토론 중 하나를 읽으십시오. 캐시 오닐 박사 의 저서 인 수학 파괴의 무기: 빅 데이터가 불평등을 증가시키고 민주주의를 위협하는 방법은 현재 이용 가능합니다.
