AI Talk Show 2024

AI 이벤트 프레젠테이션 요약

연사:

• Richard Socher, You.com CEO
• Sung Kim, Upstage CEO
• 주최: Upstage 및 SoftBank Ventures Asia

소개

이벤트 개요:

• Upstage의 Sung Kim과 SoftBank Ventures Asia가 주최
• AI 검색 엔진의 발전과 혁신에 중점
• You.com의 접근 방식이 부정확성과 환각 같은 AI 모델의 일반적인 문제를 어떻게 극복하는지에 대한 특별한 강조

You.com의 주요 기능

개인화된 AI 검색 엔진:

• You.com은 개인화된 검색 경험을 제공하는 것을 목표로 함
• Perplexity 및 ChatGPT-4와 같은 다른 AI 모델과 경쟁

주요 기능 및 혁신

1. Longer Snippets of Context:

   • Google SerpAPI의 단순 통합만으로는 부족
   • You.com은 더 많은 양의 입력 데이터를 사용하여 더 정확한 검색 결과를 제공
   • 개인적 인사이트:
     • 질문: 더 긴 컨텍스트가 비용 효율적인가?
     • 답변: 비용과 시간이 증가하지만, 품질이 크게 향상됨

2. Best Model for the Job:

   • 사용자의 질문에 따라 다른 LLM 모델을 사용
   • 예시:
     • 코딩 작업에는 GPT-4
     • 법률 해석에는 Claude
   • 개인적 인사이트:
     • 질문: 이로 인해 응답 시간이 증가하는가?
     • 답변: 그렇지만, 더 나은 품질의 응답을 보장함

3. Reliable Citation:

   • 신뢰할 수 있는 출처를 인용하는 데 중점
   • 잘못된 인용 예시:
     • Google의 AI가 Reddit의 부정확한 조언을 제시

4. Understanding User Intent:

   • 사용자의 의도에 따라 다른 프롬프트와 모델을 사용
   • 사용자의 필요를 더 잘 반영하기 위해 검색 쿼리를 다시 작성

5. Dynamic Prompting:

   • 이전 질문을 기반으로 답변을 조정하여 문맥을 유지
   • 예시:
     • 후속 질문에 따라 사실적 응답과 창의적 스토리텔링을 구분

Richard Socher의 인사이트

배경과 여정:

• 교수와 스타트업 균형:
  • Stanford에서 신경망을 통한 NLP 강의
  • 스타트업에 집중하여 Salesforce에 인수됨
• 도전과 전략:
  • NLP를 위한 신경망의 이점을 학계에 설득
  • 변화를 주도하기 위해 젊은 세대에 집중
• 회사 성장:
  • 소수의 학생들을 가르치는 것에서 수천 명에게 영향을 미치는 기업 환경으로 성장
  • 인수 후 Salesforce의 연구 및 엔지니어링 팀을 이끌음

AI 모델과 안전성

LLM을 통한 수학적 추론

• 수학 문제를 Python 코드로 번역
• AI가 코드를 실행할 수 있도록 안전성을 보장

정확성과 사용자 피드백

• 엄격한 테스트를 통해 AI 응답의 높은 정확도를 보장
• Invisible Technologies와 협력하여 편견 없는 사용자 피드백 수집

AI 모델 개선 및 확장

지속적 개선

• 사용자 피드백을 사용하여 모델을 정기적으로 미세 조정
• A/B 테스트를 통해 다양한 모델 버전 비교

맞춤형 LLM

• 미래 목표: 개인 사용자 피드백을 기반으로 한 맞춤형 LLM
• 현재 기술 한계와 진행 중인 개발 노력

녹음된 AI 도구 세션 요약

NLP와 신경망

• NLP를 위한 신경망에 대한 초기 저항
• 변화를 주도하기 위해 젊은 전문가들에 집중

연구와 실용적 적용의 균형

• 비용 때문에 스타트업에서의 제한된 연구
• 실세계 적용과 수익 창출에 집중

LLM 정확도와 안전성

• 수학 문제를 정확하게 코드로 번역
• 정확성을 유지하면서 잠재적 보안 문제 해결

편견 없는 사용자 피드백

• 편견 없는 피드백을 수집하기 위해 제3자 회사와 협력
• You.com의 성능을 GPT-4와 비교

모델 개선

• 정기적인 미세 조정과 A/B 테스트
• 맞춤형 LLM을 목표로 하는 미래

시장 적응과 수익화

• 틈새 시장에서 시작하여 확장
• 구독 및 기업 모델로 성공적인 전환

개발 전략

• 회사 인터뷰를 통해 요구 사항 식별
• 초기 피드백을 위한 종이 프로토타입 사용

Q&A 세션

시장 초점 및 전략

• 초기에는 틈새 시장에 집중한 후 확장
• 예시:
  • 프로그래머로 시작하여 날씨와 레스토랑 검색과 같은 광범위한 요구를 해결

수익화

• ChatGPT의 성공에 따라 구독 모델로 전환
• 학생 및 기업과 같은 유료 사용자를 대상으로 기업 라이센스 제공

제품 개발

• 회사 인터뷰를 통해 기초 기술 요구 사항 결정
• 실제 개발 전에 종이 프로토타입을 사용하여 피드백 수집

검색 엔진의 정의와 확장성

• 좋은 검색 엔진의 정의와 확장 가능성에 대한 질문은 시간 관계상 충분히 다루지 못함

UI/UX 적응

• 사용자가 Google 및 ChatGPT 인터페이스에 익숙함
• You.com은 최근 사용자 피드백을 기반으로 디자인을 업데이트함

수익 전략

• 구독 모델 및 기업 판매로 전환
• 새로운 수익화 전략 덕분에 ARR(연간 반복 수익) 급증

결론

최종 발언:

• 사용자 요구에 집중하고 지속적으로 개선하는 것의 중요성
• 스타트업 창업자들이 수익과 고객 피드백을 우선시할 것을 권장

미래 전망:

• 개인화되고 효율적인 AI 모델을 위한 지속적인 개발
• 사용자 중심 설계와 지속적인 개선 강조