얼마 전 전국의 공직자들을 위한 청렴연수원 대면 연수가 있어 참석했다. 나는 청렴한가? 시작 지점에서 갖는 작은 생각의 차이가 종결 지점에서는 크게 영향을 미치는 자리에 내가 있음을 깨달을 수 있었다. 과학을 가르칠 때 그 내용 속에 윤리적 반듯함을 반드시 함께 담아야 할 것으로 생각되어, 다음 두 가지 사례를 비교해보고자 한다.
첫 번째 사례: 일본의 우유 시장 구조를 조사한 자료(한국농촌경제연구원, 허덕, 이용건, 2014)에 따르면 2000년 6월 유키지루시 유업의 우유를 먹고 집단 식중독이 발생했다. 정전 발생으로 공장 설비가 고장이 나서, 탈지분유의 원유가 오랫동안 상온에 노출됐는데 이 기업은 원료비 절감을 위해 전날 사용 후 남은 원유를 다음날 그대로 사용했다. 즉 세척되지 않은 원료 용기가 원인으로 집단 식중독이 발생한 것이다. 이 기업의 대처에 대한 불만으로 대대적인 불매운동이 일어났다. 이듬해 일본 자국 내 쇠고기에서 광우병에 걸린 소가 발견되자 일본 정부가 농가의 쇠고기를 사주는 방식으로 피해를 줄이는 곳에도 이 기업은 살짝 끼어들어 해외의 값싼 쇠고기를 수입해 정부에 일본산 쇠고기로 되팔아 부당 이익을 챙겼다.
두 번째 사례: 타이레놀을 생산하는 존슨앤존슨은 1982년 시카고에서 타이레놀 캡슐을 복용한 후에 사망자 7명이 발생하자 회사가 심각한 손해를 입을 것을 감수하고 전국에서 타이레놀 캡슐을 전량 회수했다. 수사를 진행한 후 밝혀진 결과에 따르면 존슨앤존슨의 잘못이 아니라 시카고 지역의 타이레놀 캡슐 안에 누군가 독극물인 사이안화물을 고의로 섞어 넣었음이 밝혀졌다. 당시 이 기업의 즉각적인 회수 조치와 후속 대응은 오늘날에도 위기관리의 모범 사례로 여겨지고 있다. 그 이후 타이레놀은 안전한 복용을 위해 캡슐이 아닌 정제된 알약 형태로 출시된다고 한다.
만약 첫 번째 사례에서 일본의 우유 기업이 상온에 노출되어 오염된 원유를 과감히 폐기했다면 당시에는 원료비 절감으로 보였을 행동이 기업이 내리막길로 가는 신호탄이 되지는 않았을 것이다. 만약 두 번째 사례에서 타이레놀을 복용한 일부 지역 소수의 사망자에 대해 어마어마한 비용의 손해를 보면서도 안전 우선이라는 전량 회수를 선택하지 않았더라면 오늘날 믿고 먹는 대표적 기업의 아이콘이 되지는 못했을 것이다.
모든 과학기술은 양날의 검이다. 갓난아기의 손에 들린 검인가? 성숙한 사람의 손에 들린 검인가? 성숙하다는 정의는 또 누가 정하는가? 알고리즘을 만드는 개발자가 의도적으로 원하는 결과가 나오도록 한다면 이를 변별할 수 있는 시스템은 또 어떻게 만들어야 하지?
지난 칼럼(2022년12월1일자)의`트롤리 딜레마'의 새로운 버전(MOEF, 2021.7.6.)이다. 운전 중 갑자기 브레이크가 고장 났다. 우회전하면 5명의 무단횡단자를 치게 된다. 좌회전하면 정상적으로 길을 건너고 있는 임산부를 치게 된다. 직진한다면 가로수와 충돌해 자신이 사망하게 된다. 무엇을 선택할 것인가? 불과 얼마 후에는 친숙한 이웃이 되어 있을 AI는 어떻게 선택할까?
