moon-key 님의 블로그

요즘 LLM(거대언어모델)의 성능이 하루가 다르게 발전하고 있습니다. 코딩도 척척 해내고, 자연어 처리 능력은 소름 돋을 정도로 뛰어납니다. 하지만 저는 여전히 "LLM의 성능은 한참 모자라다"고 주장합니다.그 이유는 명확합니다. 텍스트를 생성하는 능력은 탁월할지 몰라도, 진정한 의미의 '사고' 능력이 결여되어 있기 때문입니다.1. '딸깍' 한 번으로 해결되지 않는 과제들대학 과제를 예로 들어봅시다. 우리에게 어떤 보고서나 과제가 주어지면, 인간은 다음과 같은 프로세스를 거칩니다.그동안 배웠던 강의 자료 복기과제의 숨겨진 의도 파악배경지식을 통합하여 '만점'짜리 결과물 도출인간은 이 모든 것을 종합적으로 판단해 결과물을 냅니다. 하지만 LLM은? 물론 가능은 합니다. 모든 자료를 제공할지라도 속된 말로 ..

우선 논문을 리뷰하기에 앞서 기존 optimizer와 deep neural network에 대한 이해가 선행되어야합니다. 또한, 해석학과 관련된 약간의 지식이 필요하지만 이는 이번 글 안에서 다루겠습니다.이 글은 논문 원본을 보면서 같이 읽으면 이해에 도움이 될 거예요.이제 리뷰 시작하겠습니다.1. Introduction 최근들어 모바일 기기와 PC의 사양이 올라가면서 개인이 지니고 있는 하드웨어 자원이 늘어나고 있습니다. 또한 이런 기기들은 GPS, 마이크 카메라 같은 다양하고 우수한 센서를 지니고 있죠. 이 논문은 이 부분에 집중한 것 같아요. 인공지능을 학습하는데 필요한 요소이자 저와 같이 개인 수준에서 연구를 하고자 하는 사람들에게 높은 진입 장벽으로 작동하는 두 가지가 데이터, 하드웨어 자원이..

이론은 구체적인 실험 계획을 통해 비로소 생명력을 얻습니다. 이전 글에서 분석한 "JPEG-DL"의 아이디어를 바탕으로, 저만의 가설을 설정하고 이를 검증하기 위한 실험 환경을 설계하는 과정을 기록하고자 합니다. 모든 연구의 청사진이 되는 이 단계는 논문의 'Methodology' 섹션의 기반이 될 것입니다.1. 연구 목표 및 핵심 가설연구 목표: 학습 가능한 JPEG 양자화 레이어를 통해, 표준 JPEG 압축 대비 이미지 분류 모델의 정확도와 강건성을 향상시키는 것을 목표로 한다.핵심 가설:이미지별 특성에 맞게 최적화된 양자화 테이블은 표준 테이블보다 높은 분류 정확도를 달성할 것이다.소프트 양자화 과정에서 발생하는 정보의 정규화(regularization) 효과는 모델의 적대적 공격(adversari..

5개월 전, 뜨거웠던 2025년 4월의 XRPL 해커톤이 최우수상이라는 값진 결과와 함께 막을 내렸습니다. ‘XRPedia’라는 팀명으로 나선 저희는 XRPL 기반의 Web3 자료 공유 플랫폼을 선보였습니다. 시간이 조금 지났지만, 단순한 경험 공유를 넘어 저희가 구현한 기술의 학술적 배경과 그 과정에서 얻은 깊은 배움을 기록하고자 합니다.우리가 마주한 문제: 높은 수수료와 부족한 동기부여기존의 자료 공유 플랫폼들은 중앙화된 중개자로서 높은 결제 수수료를 부과하고, 창작자와 구매자 모두에게 지속적인 활동 동기를 부여하는 데 한계가 있었습니다. 저희는 이 문제를 XRPL 생태계와 AI 기술을 통해 해결할 수 있다고 믿었습니다.우리의 해결책: XRPediaXRPedia는 XRPL을 통해 개인 간의 수수료 낮..

새 창에서 열기

새 창에서 열기

새 창에서 열기

새 창에서 열기

새 창에서 열기

새 창에서 열기