본문 바로가기

LangChain11

[가짜연구소] 금융에이전트 Stockelper 개발과정 깃잔심 5기 회고 1월 4일 가짜연구소 9th 깃허브에 잔디심기 일정이 모두 막을 내렸습니다. 처음에는 말 그대로 깃허브에 잔디심기 Commit의 목적으로 조금 러프하게 하지 않을까 생각했지만, 누구보다 프로젝트에 진심이었던 기잔심분들 덕에 동기부여도 되고 성장을 수집하지 않았나 생각합니다. 다시 한번 좋은 스터디를 마련해 주신 가짜연구소와 정한결 님에게 감사인사 드립니다. 스터디는 각자 원하는 프로젝트 개발과 함께 이 개발한 프로덕트를 통한 부가가치 창출이란 좋은 목표와 함께 매주 팀별 LLM Engineering 을 위한 handbook에 들어가기 위한 발표 자료를 공유하는 자리였습니다. 저 같은 경우는 Context Retrieval을 발표했지만 시간도 아쉽고 발표준비도 미숙해서 조금 아쉬움이 남는 발표였던 것 같습.. 2025. 1. 5.
[Agent Study] LangGraph Human in the loop (경제 리포트 작성하기) Human in the loop 란 말이 agent 스터디를 하면서 많이 듣게되었다. 그래서 human in the loop 이 뭐고, 어떻게 쓰이고 활용하는지 공부해보기로 하였다. 간단하게 설명해서 인공지능이 task 를 처리하는 과정에서 인간이 개입해서 참여 성능을 향상시킨다는 개념이다. 실제 적용 사례의료 분야미국 국가 보건 서비스는 Amazon A2I를 활용하여:매월 5,400만 건의 처방전 데이터 처리신뢰도가 낮은 문서는 수동 검토보험금 지급 프로세스 효율화 달성Input data -> AI 가 예측 -> 신뢰도에 따라 높으면 ClientApplication으로 돌아가고, 낮은 자료는 사람이 검토하게 한다. 실제 사례로는 LangGraph 에도 있다. Iteration 기능과 사람의 개입이란 내.. 2024. 12. 29.
AWS Nova를 SuperNova 로 전환하기 (feat. LangGraph 멀티툴 에이전트) 정말 오랜만에 글을 쓰게 되었습니다. 너무 재밌어 보이는 모델 Nova가 나와서 이건 ~ 못 참지 하면서 달려왔습니다. AWS 도 Claude에 전략적인 투자를 하고 있어서 자체 LLM을 만드냐 안 만드냐 말이 많았는데, AWS Re:invent에서 'Nova'라는 재미있는 모델을 내놓았습니다. 간단하게 노바에 대해 설명드리면 Tier 별로 나눠져 있지만 한 줄로 GPT-4o 성능인데 가격이 75% 저렴하다! 재밌는점은 Premier 상위 모델이 안 나왔다는 점입니다. 일단 프런티어 모델들의 흐름은 이미 학습은 충분하고 추론 과정에서 CoT와 같은 효율적인 리즈닝과정을 거쳐서 답변을 최적화로 뽑는 형태로 많이 빅테크들이 전환을 하고 있는데, 아마 Premier 도 gpt-o1처럼 그런 느낌의 모델이 아닐.. 2024. 12. 6.
실전 RAG로 역량강화하기 - 멀티모달 프로토타입 실전 RAG으로 역량 강화하기실전 RAG 같이 만들면 만들 수 있지 않을까? RAG  랭체인이나 라마인덱스로 사용은 해봤는데 성능이 안좋은기억이 분명 있을 겁니다. 이번 기회에 Graph DB, Agent 형태의 RAG 등 다양한 기법들을 같이modulabs.co.kr실전 RAG 역량 강화하기 스터디는 이제 본격적으로 개발하는 단계에 들어갔습니다. 스터디원 분들이 다양한 주제로 여러 가지 RAG use-case를 준비해 주셔서 마지막 회고날이 기대가 되는 스터디입니다. 매주 저희는 발표를 하고 있기 때문에 RAG로 발표를 할걸 찾다가 일단.. 프로토타입이나 만들어두고 떠들자 생각이 들었고, 한번 만들어봤습니다.  저는 이런 프로젝트를 기획하고 있었습니다. 이미 이전에 LangChain 과 gemini로 .. 2024. 9. 5.