IndexxLim · ML·NLP 논문 리뷰
Efficient Memory Management for Large Language Model Serving with PagedAttention
AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration
활성화 정보를 활용해 중요한 가중치를 보호하는 AWQ를 살펴봅니다. 낮은 비트의 가중치 양자화로 LLM의 메모리 사용량과 추론 비용을 줄이는 방법을 정리합니다.
계속 읽기
BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension
손상된 텍스트를 복원하며 사전학습하는 BART를 살펴봅니다. 양방향 인코더와 자기회귀 디코더를 결합한 구조 및 텍스트 생성 적용을 정리합니다.
계속 읽기
Robust Speech Recognition via Large-Scale Weak Supervision (Whisper)
68만 시간 규모의 약지도 데이터로 학습한 Whisper를 살펴봅니다. 다국어·멀티태스크 학습으로 견고한 음성 인식을 얻는 방법을 정리합니다.
계속 읽기
LaMDA: Language Models for Dialog Applications
대화용 언어 모델 LaMDA의 학습과 평가를 살펴봅니다. 대화 품질, 안전성, 외부 정보에 근거한 응답을 위한 접근을 정리합니다.
계속 읽기
YourTTS: Towards Zero-Shot Multi-Speaker TTS and Zero-Shot Voice Conversion for Everyone
새로운 화자의 음성을 적은 참조 음성으로 합성하는 YourTTS를 살펴봅니다. 다국어·다화자 학습과 제로샷 음성 변환의 접근을 정리합니다.
계속 읽기
VITS: Conditional Variational Autoencoder with Adversarial Learning for End-to-End Text-to-Speech
변분 추론과 적대적 학습을 결합한 end-to-end 음성 합성 모델 VITS를 살펴봅니다. 조건부 VAE와 정규화 흐름 기반 구조를 정리합니다.
계속 읽기