안녕하세요! 벌써 10월의 시작이네요. 오늘은 최근 AI 업계에서 아주 의미 있게 다뤄지고 있는 '신뢰와 안전'에 관한 소식을 들고 왔어요.

기술의 성능을 넘어 신뢰를 입증하다

최근 포티투마루의 기술이 주목받고 있어요. 바로 회사의 핵심 기술인 LLM42 v.1.1과 RAG42 v.1.3이 지난 9월, 정부의 '인공지능 제품·서비스 검증'을 통과했다는 소식인데요. 단순히 기술이 뛰어나다는 것을 넘어, 국가 차원의 검증을 통해 그 안전성과 신뢰성을 인정받았다는 점에서 굉장히 의미가 커 보여요.

여기서 LLM은 거대언어모델을, RAG는 검색 증강 생성 기술을 의미하는데요. 최근 AI가 답변을 할 때 가짜 정보를 진짜처럼 말하는 '환각 현상'이 이슈가 되곤 하잖아요? 이런 문제를 해결하기 위해 정보를 정확하게 찾아내고 답변하는 기술이 정말 중요한데, 이번 검증이 그 핵심을 짚어준 것 같아요.

앞으로의 AI는 '안전장치'가 핵심이에요

개인적으로 이번 소식을 보며 느낀 점은, 이제 AI 기술은 단순히 '얼마나 똑똑한가'를 넘어 '얼마나 믿을 수 있는가'의 단계로 진입했다는 점이에요. 아무리 빠른 자동차라도 브레이크가 없다면 달릴 수 없듯이, 기업이나 공공기관에서 AI를 도입할 때 가장 먼저 고려하는 것이 바로 안전장치와 신내성일 수밖에 없거든요.

앞으로 AI 기술이 우리 일상과 산업 현장에 더 깊숙이 들어오기 위해서는, 이번 사례처럼 객관적인 검증을 거친 기술들이 시장의 표준을 만들어가는 과정이 꼭 필요할 것 같아요. 기술의 발전만큼이나 그 기술을 안전하게 다루는 체계가 잘 잡히고 있는 것 같아 무척 기대가 됩니다.

오늘 소식은 여기까지예요. 다음에 더 유익하고 흥미로운 테크 이야기로 찾아올게요!

본 포스팅은 매일테크에서 발행되었습니다.