AI (2) 썸네일형 리스트형 [AI] 하네스 엔지니어링은 AI 시대의 플랫폼 엔지니어링일까? 이 글은 아래 글을 읽고 느낀 점과 개인적인 생각을 정리한 글입니다.Software 3.0 시대, Harness를 통한 조직 생산성 저점 높이기 최근 토스의 김용성 님이 작성한 **「Software 3.0 시대, Harness를 통한 조직 생산성 저점 높이기」**를 읽었다.글을 읽으며 가장 인상 깊었던 것은 "좋은 프롬프트"가 아니라 조직이 AI를 사용하는 방식을 시스템으로 만들자는 관점이었다.기존에는 AI를 얼마나 잘 사용하는지가 개인의 역량이었다면, 앞으로는 그것을 조직이 관리하고 배포하는 시대가 될 수도 있겠다는 생각이 들었다.Software 1.0에서는 코드를 공유했다Software 1.0 시대에는 반복되는 문제를 해결하기 위해 공통 라이브러리와 플랫폼을 만들었다.인증 SDK공통 UI Compon.. [AI] LLM은 이제 “답을 한 번 생성하는 모델”이 아니다 NeurIPS 2024 Tutorial: Beyond Decoding이 말하는 Meta-GenerationLLM을 사용할 때 가장 먼저 떠올리는 방식은 단순하다.질문을 입력한다.모델이 답변을 생성한다.그 답변을 그대로 사용한다.초기의 LLM 활용은 대부분 이 구조에 가까웠다. 프롬프트를 잘 쓰고, temperature를 조절하고, top-k나 top-p 같은 decoding 옵션을 바꾸면 결과가 달라졌다. 하지만 NeurIPS 2024 튜토리얼 **“Beyond Decoding: Meta-Generation Algorithms for Large Language Models”**가 다루는 핵심은 그보다 한 단계 위에 있다.이제 중요한 질문은 “다음 토큰을 어떻게 고를 것인가?”가 아니다.더 중요한 질문은 .. 이전 1 다음
