지금 돌아가고 있는 AI 기술

가동 중 · LLM 기반

말을 알아듣는 자리에 AI를 씁니다. 다섯 가지입니다.

아래 다섯 가지는 AI에 말을 넘기는 길목과, 그 길목에 붙여 둔 안전장치입니다. 숫자를 만들어 내거나 기록을 대신 써 주는 자리에는 쓰지 않습니다.

1. 못 알아들은 말을 갈래로 나눕니다

   사람이 하던 일
   고객이 남긴 말을 담당자가 하나씩 읽고 어떤 용건인지 나눠 넘겼습니다.

   AI가 하는 일
   정해 둔 규칙이 알아보지 못한 문장을 16가지 갈래 중 하나로 나눕니다. 회사마다 하루에 쓸 수 있는 횟수에 상한을 두고 있습니다.

   사람이 남는 일
   나뉜 갈래를 보고 실제 답을 쓰는 것은 사람입니다. 갈래가 어긋나면 사람이 바로잡습니다.

2. 보내기 직전에 개인정보를 가립니다

   사람이 하던 일
   외부로 무엇이 나가는지 사람이 그때그때 살폈습니다.

   AI가 하는 일
   문장을 AI에 넘기기 직전에 주민등록번호·사업자등록번호·전화번호·이메일을 가려서 보냅니다.

   사람이 남는 일
   어떤 항목을 가릴지 정하는 것은 사람입니다. 가리는 목록에 없는 정보는 애초에 적지 않도록 안내합니다.

3. 지어낸 숫자를 걸러 버립니다

   사람이 하던 일
   AI가 내놓은 답을 그대로 믿어도 되는지 사람이 하나씩 따져 봐야 했습니다.

   AI가 하는 일
   AI 판정에 숫자가 섞이면 그 판정을 통째로 버립니다. 정해 둔 갈래 밖의 답도 버립니다. 확신이 낮게 나와도 버립니다.

   사람이 남는 일
   버려진 건은 규칙 답변이나 담당자에게 넘어갑니다. 마지막에 답하는 것은 사람입니다.

4. 얼마나 썼는지 세고, 넘으면 막습니다

   사람이 하던 일
   얼마나 썼는지는 청구서가 와야 알 수 있었습니다.

   AI가 하는 일
   회사별로 호출 횟수와 처리량을 쌓아 두고, 정해 둔 상한을 넘으면 더 부르지 않습니다.

   사람이 남는 일
   상한을 얼마로 둘지 정하고, 막힌 뒤에 어떻게 처리할지 판단하는 것은 사람입니다.

5. 규칙이 먼저, 막히면 AI가 이어받습니다

   사람이 하던 일
   같은 질문에도 담당자가 매번 처음부터 답을 썼습니다.

   AI가 하는 일
   상담 창에서 규칙이 먼저 답합니다. 규칙으로 풀리지 않을 때만 AI가 이어받습니다.

   사람이 남는 일
   규칙과 AI가 모두 막힌 질문은 사람에게 넘어옵니다. 답변에 담을 내용을 정하는 것도 사람입니다.

준비 중

만들고 있는 것은 한 가지입니다.

책임 범위

AI는 보조 도구입니다. 최종 확인과 법적 책임은 사업장에 있습니다.

위에 적은 AI 기능은 분류·마스킹·초안·검토 지원까지만 합니다. HACCP 기록의 최종 확정, 식약처 제출, 그에 따른 법적 책임은 사업장에 있습니다. AI가 판단하거나 자동으로 처리했다고 표현하지 않는 이유가 이것입니다.

• CCP 판정에는 AI를 쓰지 않습니다. 사람이 실측값을 확인하고 저장합니다.
• AI 산출물에는 확신도와 근거를 같이 남기고, 확신도가 낮으면 사람에게 넘깁니다.
• 정확도·절감 수치는 자체 실측 전까지 공개하지 않습니다.