본문 바로가기
Daily

하이퍼클로바 X 프로젝트 회고

by AI미남홀란드 2024. 8. 16.
728x90

3달여간 참여했던 프로젝트에 대해 회고를 해볼까 합니다. 모두 네이버의 토종 한국어 LLM 하이퍼클로바 X로 진행되었는데, 시작은 사실 이직을 하고, 느슨해질까봐 신청한 스터디가 시작이었습니다. 저를 일단 혹사시켜보자 생각으로 하이퍼클로바 스터디 및 해커톤을 다 신청을 했었는데 결과적으로 좋은 리턴값이 되어 되돌아왔습니다. 

 

또 8월 27일 네이버클라우드 테크원에서 유저 커뮤니티에서 연사를 하게 되었습니다. 위 프로젝트를 진행하면서 제가 배운 팁과 노하우를 공유하려고 합니다!

 

 

1. 풀잎스쿨 - 대규모 한국어 모델 HyperCLOVA X를 직접 튜닝하여 나만의 캐릭터 챗봇 만들기

 

NaverCloud 의 Green Developers X 모두의 연구소와 함께 스터디를 진행했는데요. 주니어 마스터 현석님과 함께 3달간 챗봇을 만드는 스터디였습니다. 이전에도 여러 LoRA 튜닝으로 한국어 모델을 튜닝을 해봤는데 얕은 지식의 수준이었고, 진짜 나만의 페르소나 챗봇을 가질기회가 흔치 않을것 같아서 신청하게 되었습니다. 아무래도 저는 필드에서 활동하고 도메인지식이 어느정도 있어서 빠르게 진도수준을 뺄 수 있었는데, 다른 처음 하는 분들에게는 조금 어려울 수 있을거란 생각이 들었습니다. 저도 첫주차에는 API docs 가 많이 어렵게 느껴졌었는데 어느새 튜닝을 하고 있었습니다. 그때 조금 다른 분들을 도와드렸더라면? 더 많은 재밌는 아이디어가 있었지 않을까 생각이드는데 성격이 INFP 라서.. 아쉬웠던것 같습니다. 현석님이 이미 하이퍼클로바에 대한 경험과 LLM 필드지식이 풍부하셔서 스터디간 잘 리딩을 해주셨던 것 같습니다. 팀원들에게서도 다양한 인사이트도 듣고, 다소 어색한 기류가 흐르긴 했지만 그동안의 풀잎스쿨의 기억을 되돌아보면 제일 인상깊은 풀잎스쿨이었습니다. 아무래도 이때 배우고 시도했던 경험들 덕분에 다음 해커톤들에서도 좋은 수상을 하지 않았나 생각이 듭니다.

 

나만의 원피스 루피 챗봇 만들기 with HyperClovaX

Hyper CLOVA 스터디를 참여하게 되었다🙇이직준비와 이직 신입 적응기를 거치며 5월은 빠르게 흘러갔다. 매번 일을 벌이는 걸 좋아하는 나에게 찾아온 트리거 같은 역할 풀잎스쿨네이버클라우드

hyun941213.tistory.com

 

2. AI 막차 탑승하기

 

NCUC(네이버클라우드 유저 커뮤니티) 에서 기획하고 김수현님이 계획하신 스터디 프로그램인데 마지막에 산출물을 가지고 순위까지 내는 방식의 스터디해커톤이었습니다. 타겟이 아무래도 누구나 써볼 수 있다는 점에서 다양한 직장인분들이 신청하셔서 다양하게 팀이 꾸려진듯했습니다. 4명의 팀이 배치되고 저희팀 같은 경우에는 처음에 이쪽 관련지식이 없는 분들이어서 스터디의 원할한 진행을 위해 조장이 아닌 조장이 되었던 것 같습니다. 항상 찍먹수준의 프로젝트만 만들어봐서 이번 스터디 목표는 사실 어느정도 레벨 있는 토의 프로젝트를 해보자 였던것 같습니다. 일단 팀원들과 도메인 지식 차이가 너무 났어서 최대한 ZOOM 회의에서는 제가 설명하는 방향 쪽 하고싶은 프로젝트를 물어보고 그거에 대한 피드백으로 진행하였는데, 쉽지 않은 경험이었습니다. 네이버클라우드에서 모각코를 할 수 있는 기회를 주셔서 모여서 모각코를 진행하였고, 그때 팀원들과 얘기하고 거의 완성한 것 같습니다. RAG 를 적용해보기 위해 LangChain 프레임워크에서 적용하는 방법을 익히고, 클로바스튜디오에서 지원하는 튜닝 뿐만아니라 스킬트레이너, 임베딩, 슬라이딩윈도우등 써보면서 정리할 수 있던 기회였습니다. 어쩌다보니 2등 프로젝트로 수상을 했습니다. 페르소나 봇을 통한 이력서 비서란 아이디어를 기획했었습니다. 아쉬운점은 적용해볼 기회, 다양한 방법이 있었을텐데 고도화를 해보았으면 더 좋았을거 같은 아쉬움은 남습니다. 그래도 좋은 분들과 네트워킹 하고 알게되어 좋은 경험이었습니다.

 

[이달의 Nclouder🏆] 7월 주인공을 소개합니다!

네이버 클라우드 플랫폼을 활용한 나만의 기술 블로그를 널리 알리는 기회 네이버클라우드의 기술 콘텐츠 ...

blog.naver.com

 

3. 407 포텐데이 X 클로바스튜디오

 

이전부터 포텐데이를 보곤 있었는데, 막상 제 AI 개발자란 필드에 부합한 포지션이 없어서, 그렇다고 백엔드로나가자니 아는것도 없고 민폐만 끼치게 될 것 같았고, 마침 현석님도 포텐데이 나가셔서 수상도하시고 좋은 기억을 가지고 계시길래 덥썩 신청했습니다. 10일간 온라인으로 몰두하는 해커톤이 되게 신기했습니다. 10일 만에 나온 결과물치곤 너무 훌륭한 기획, 개발 수준의 산출물들이어서 욕심이 나기도 했습니다. 저는 팀원을 구하는 과정에서 '말모말모' 라는 기획을 알게되어 재밌을것 같아서 하게 되었습니다. 사실 이전에 여러 계획을 세우긴 했었는데 현실적으로 적용하기 어려움이 많아보여서 제 아이디어는 다시 관속에 넣어두고 프로젝트를 하게 되었습니다. 다들 현직자 기획 / 디자인 / 프론트 / 백엔드 분야의 걸출하신분들이 모여있었고, 우승? 을 목표로 프로젝트를 하게 되었습니다. 이 프로젝트를 하면서 느낀건 이런 회사가 있다면 얼마나 좋을까? 였습니다. 팀원분들끼리 소통도 잘되고 자발적으로 다들 너무 열심히 하는 모습을 보고 많이 느끼게 되었습니다. 사실 AI 개발자 포지션이다보니 중요하면서도 크게 할일은 많이 없어서, 하이퍼클로바X를 어떻게 우리프로젝트에 적용할 수 있을까 의 관점으로 생각을 많이했던것 같습니다. RAG를 쓰면 좋겠지만 크게 RAG를 써야할 이유는 없었고, 부가기능정도의 추가였습니다. Agent 를 활용해서 검색엔진기반의 페르소나도 만들어보고, 다양한 개발과정에서의 이슈도 많이 보게되었습니다. 특히 많이 배웠던 것은 여지껏 프로덕트 레벨의 프로젝트 경험이 없던 저에게 협업을 하는 방법과 Clean Code 의 중요성을 많이 알게되었습니다. 회사에 이직해서 공부했던 Fastapi, Docker 등을 써보게 되었고, 개발자 종하님을 서포트 하면서 많이 배웠던 것 같습니다. 훌륭한 기획을 해주신 예진님, 디자인과 기획 담당을 해주신 하영님, 프론트를 이쁘게 만들어주신 승규님 , 든든한 개발자 종하님 등 좋은 분들을 잘만나 1차 평가에서 3등, 네이버클라우드 픽과 결선에서 3등이란 엄청난 수확을 거두었습니다. 

 

 

어쩌다보니 남은 크레딧이 꽤 있는데, 열심히 하이퍼클로바를 활용해서 다양한 RAG 프로젝트에 적용해보려고 합니다. 풀잎스쿨에서도 하이퍼클로바, GPT, Gemini , Claude 와 같이 base model 로 활용해볼 계획입니다. 

3개월간의 여러 green developer 참여는 제 커리어와 개인적 성장에 있어 큰 터닝 포인트가 되었습니다. 다양한 사람들과의 협업, 새로운 기술의 습득, 그리고 결과물로서의 성취감을 통해 많은 것을 배울 수 있었습니다. 앞으로도 이런 도전적인 기회를 놓치지 않고, 계속해서 성장해 나가고 싶습니다.

 

 

 

 

 

728x90