본문 바로가기

NLP17

CrewAI 로 LLM Agent 푹 담궈 찍어먹어보기 예전에 LangGraph를 활용해서 에이전트 찍어먹어 보기를 실행해 본 적 있습니다. 이전에도 Self-RAG, C-RAG와 같은 논문체를 구현하기 위해 Agent를 사용하는 코드도 작성해 보았는데요. HyperClova X 에 LangGraph 적용하기 A to ZHyperClova X 를 통한 RAG 기반 이력서 비서나만의 원피스 루피 챗봇 만들기 with HyperClovaXHyper CLOVA 스터디를 참여하게 되었다🙇이직준비와 이직 신입 적응기를 거치며 5월은 빠르게 흘러갔다. 매번hyun941213.tistory.com 이번엔 조금 더 쉬워진 Agent 활용 도구라고 할 수 있는 CrewAI를 통해 주제를 정하고, 역할에 맞는 기능부여를 하고 마지막 한국어 특화모델 하이퍼크로버를 활용해서 조.. 2024. 9. 4.
실전 데이터를 활용한 LLM Fine-tunning, RAG 적용해보기 (EXAONE Finetuning) - (1) 요즘 회사에서는 LLM과 관련된 업무를 하지는 않지만 LLM 에 대한 꾸준한 포스팅을 해보려고 합니다. Dacon 에서 대회를 하고 있는데 마침 RAG 스터디를 하기도 했고, Advanced RAG 를 막상적용할 도메인이 마땅하지 않다고 생각한 차에 좋은 대회가 있어서 해보게 되었습니다. 재정정보 AI 검색 알고리즘 경진대회 - DACON분석시각화 대회 코드 공유 게시물은 내용 확인 후 좋아요(투표) 가능합니다.dacon.io글쓰는 날 기준으로 대회가 끝나가긴 하지만 그동안 이 대회를 해보면서 다양한 공부도 하였고, 다시 LLM 을 파인튜닝 해볼 기회가 생겨서 정리할겸 써봅니다. 현재 저는 순위자체는 10위 ~ 20위권 왔다갔다하고 있습니다. 아무래도 평가지표가 F1 Score 로 submission 을.. 2024. 8. 22.
Gemini와 LangChain을 활용한 멀티모달 삼진 하이라이트 시스템 AI가 바꾸는 스포츠 중계 서비스 혁신: AI 하이라이트/AI 캐스터 devocean.sk.com  위 글을 읽고 너무 재밌고 혁신적인 아이디어라고 생각해서 비슷하게 만들어보았습니다. 옛날부터 Gemini가 멀티모달로 학습을 시켜서 멀티모달의 선두주자 아닌가 생각했었는데, 막상 다른 Claude, ChatGPT 가 텍스트 성능이 워낙 좋다 보니 잘 쓸 기회가 없었습니다. 근데 문득 KT 야구 경기를 보다가 하이라이트가 있는데 이것도 결국 나중에 AI 가 해줄 수 있지 않을까? 생각을 했습니다. 스포츠가 다양하지만 일단 야구와 투수의 삼진으로 좁혀야 개발이 가능할 듯 싶어서, 좁혀서 진행해 보았습니다. 위처럼 사람이 직접 공수를 거쳐서 삼진아웃 전 영상을 클립으로 보통 만드는데 이걸 AI에게 맡겨보자? 이.. 2024. 7. 30.
나혼자 만드는 금융권 LLM Assistant - (1) 페르소나 모델 만들기 본 프로젝트는 RAG PipeLine을 구축하기 위한 개인 학습용 프로젝트입니다. 콘셉트는 경제유투버 슈카 님의 말투를 페르소나 화해서 RAG 정형/비정형 데이터 마트를 구축하여 RAG를 통한 QA 봇을 만들어볼 생각입니다. 처음 했던 루피 봇도 나름 만족하는 결과를 산출했었고, 스터디도 현재 ing 중이고 풀잎스쿨에서 RAG 스터디를 열었기 때문에 거기에 사용할 backbone 모델로 위 모델을 활용할 계획에 있습니다.  슈카월드대한민국 의 금융인이자 인터넷 방송인 . 서울대학교 경제학부 를 졸업하고, 이베스트투자증권 에서 채권 프랍트namu.wiki 슈카월드 나무위키에서 3.8 어록을 통하여 페르소나학습을 할 수 있게 Instruction 을 설정해서 학습을 진행합니다.sys_prompt = '''#.. 2024. 7. 19.