Hybride LLMs verlieren Long-Context-Fähigkeiten durch CoT-Feintuning10. Juni 20264. Juli 2026AI ModelsCoT-Feintuning degradiert Long-Context-Retrieval in hybriden LLMs durch Verzerrung der Query-Key-Projektionen; QK-Restore behebt dies ohne zusätzliches Training. Share on:
