반려동물 의료 AI, 왜 위험할까? 직접 써보고 느낀 현실적인 문제점

아가들 의료와 관련해서 제발 AI에게 묻지 마세요. 정말 위험합니다.

 

저는 소위 AI에 홀릭한 사람들보다는 툴을 덜 쓰는 편입니다. 다만, 시간 없을때 비슷한 논문 비교능력은 정말 탁월하고 계산하기 귀찮은거 이미지를 주면 도메인 특화지식 필요한 계산도 정말 기막히게 해줍니다. 그정도만 사용하고 있습니다.

사람들 하도 많이 쓴다해서 저도 의료 건강 질문 몇십개를 AI에게 물어봤는데 결과가 처참합니다.

왜 이러지? 싶어서 추론과정을 살펴보니 3개 정도의 심각한 문제가 존재합니다.

1. 어설픈 아마추어가 정리한 글을 fact로 인지하고 긁어와 참고합니다.

2. 일정수준 검증된 연구결과는 일반인의 질문 범위/목적과 전혀 맞지 않습니다.

3. 모든 답을 무조건 그럴싸하게 답처럼 주려고 기계가 노력합니다. 못된걸 배운 것 같습니다. 의료정보를 계속 추긍하니까 기계가 매번 사과를 하네요. 의료는 문진과 진단이 핵심인데 대화 자체를 끌어가지 못합니다. 무엇을 물어봐야 하는지를 아예 모릅니다.

아가들 의료는 수의사에게 직접 물어보세요. 사료나 육아는 직접 발품 팔거나 차라리 커뮤니티에 물어보시는 편이 낫습니다. AI 의료는 아직 아닙니다. 아직은요... (시간이 더 흐르면 의료도 결국 대체하겠죠. 로보틱스는 시간이 많이 걸릴거고, 일반 내과 진료는 사실 의사가 나중에 필요할까? 싶기도 합니다. 소프트웨어 발전하면 당연히 기계가 더 진료를 잘할 수 밖에 없고 테크니션만 있으면 99%의 내과 진료가 가능해질 겁니다. 시간의 문제라고 생각합니다)