๋ชฉ๋ก
Vol.182025.12.22

๐Ÿ“‘Alibaba: "แ„‹แ…ฅแ„ƒแ…ฉแ„‡แ…ต, แ„Œแ…ฆแ„€แ…ก แ„Œแ…ฎแ†จแ„‹แ…ตแ„€แ…ฆแ†ปแ„‰แ…ณแ†ธแ„‚แ…ตแ„ƒแ…ก"

25.12. 4แ„Œแ…ฎแ„Žแ…ก | Google DeepMind, Microsoft, Meta, Alibaba, OpenAI, Tencent, NUS, Fudan University

1,734๋ช… ์ˆ˜์‹ ์˜คํ”ˆ์œจ 57.70%ํด๋ฆญ๋ฅ  8.66%

๐Ÿ“‘Alibaba: "แ„‹แ…ฅแ„ƒแ…ฉแ„‡แ…ต, แ„Œแ…ฆแ„€แ…ก แ„Œแ…ฎแ†จแ„‹แ…ตแ„€แ…ฆแ†ปแ„‰แ…ณแ†ธแ„‚แ…ตแ„ƒแ…ก"

25.12. 4แ„Œแ…ฎแ„Žแ…ก | Google DeepMind, Microsoft, Meta, Alibaba, OpenAI, Tencent, NUS, Fudan University

๊ธˆ์ฃผ ์บ์น˜ํŽ˜์ดํผ๋Š” Google DeepMind, Microsoft, Meta, Alibaba, OpenAI, Tencent, NUS, Fudan University์™€ ํ•จ๊ป˜ํ•ฉ๋‹ˆ๋‹ค.
3๋ถ„๋งŒ ํˆฌ์žํ•ด ์“ฑ ๋‘˜๋Ÿฌ๋ณด๊ณ , ๋น ๋ฅด๊ฒŒ ๋ฐ”๋€Œ๋Š” ๊ธฐ์ˆ ์˜ ๋ฐฉํ–ฅ์„ฑ์„ ๋†“์น˜์ง€ ๋งˆ์„ธ์š”!

๐Ÿ“ˆ ์ตœ์‹  AI ํŠธ๋ Œ๋“œ 3์ค„ ์š”์•ฝ

๐ŸŒŸ AI ์—์ด์ „ํŠธ ์‹œ์Šคํ…œ์˜ ๋ฉ”๋ชจ๋ฆฌ, ์ ์‘์„ฑ, ์•ˆ์ „์„ฑ์— ๋Œ€ํ•œ ์ฒด๊ณ„์  ์—ฐ๊ตฌ๊ฐ€ ํ™œ๋ฐœํžˆ ์ง„ํ–‰๋˜๊ณ  ์žˆ์œผ๋ฉฐ, ํŠนํžˆ ์—ฌ๋Ÿฌ AI๊ฐ€ ํ˜‘๋ ฅํ•˜์—ฌ AGI ์ˆ˜์ค€์˜ ์ง€๋Šฅ์„ ๋ฐœํ˜„ํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” 'Patchwork AGI' ๊ฐœ๋…์ด ์ฃผ๋ชฉ๋ฐ›๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

๐Ÿš€ LLM์˜ ํšจ์œจ์„ฑ ๊ทน๋Œ€ํ™”๋ฅผ ์œ„ํ•œ ๊ทน๋‹จ์  ํฌ์†Œ์„ฑ(Extreme Sparsity) MoE ๋ชจ๋ธ๊ณผ ๊ธด ์ปจํ…์ŠคํŠธ ์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•œ Test-Time Training ๊ธฐ๋ฒ• ๋“ฑ ์‹ค์šฉ์  ์„ฑ๋Šฅ ํ–ฅ์ƒ ์—ฐ๊ตฌ๊ฐ€ ๋‘๋“œ๋Ÿฌ์ง‘๋‹ˆ๋‹ค.

๐Ÿ”ฅ๋ฏธ๊ตญ ๊ธฐ์—…์„ ๋ˆ„๋ฅด๋ ค๋Š” ์ค‘๊ตญ์˜ ์›€์ง์ž„ - ์˜คํ”ˆ์†Œ์Šค ๊ณต์„ธ๊ฐ€ ๋ˆˆ์— ๋„๋Š” ์ฃผ์ž…๋‹ˆ๋‹ค.

๐Ÿšจ DeepMind๊ฐ€ ๊ฒฝ๊ณ ํ•œ '์ข€๋น„ AI ๊ตฐ๋‹จ' ์‹œ๋‚˜๋ฆฌ์˜ค

Distributional AGI Safety

๐Ÿ›๏ธ ์†Œ์†: Google DeepMind
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: Patchwork AGI, Defense-in-Depth, Agentic Sandbox

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "AGI๋Š” ๋ฐ˜๋“œ์‹œ ํ•˜๋‚˜์˜ ๊ฑฐ๋Œ€ํ•œ ๋ชจ๋ธ์ด์–ด์•ผ ํ• ๊นŒ?"

  • "์—ฌ๋Ÿฌ ํŠนํ™”๋œ AI๊ฐ€ ํ˜‘๋ ฅํ•˜๋ฉด ์–ด๋–ค ์œ„ํ—˜์ด ์ƒ๊ธธ๊นŒ?"

  • "๋ถ„์‚ฐ๋œ AI ์‹œ์Šคํ…œ์˜ ์•ˆ์ „์€ ์–ด๋–ป๊ฒŒ ๋ณด์žฅํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

๊ฐœ๋ฏธ ๊ตฐ์ง‘์ด ๊ฐœ๋ณ„ ๊ฐœ๋ฏธ๋ณด๋‹ค ํ›จ์”ฌ ๋ณต์žกํ•œ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋“ฏ, ํŠนํ™”๋œ ์—ฌ๋Ÿฌ AI ์—์ด์ „ํŠธ๊ฐ€ ํ˜‘๋ ฅํ•˜๋ฉด ๋‹จ์ผ ๋ชจ๋ธ์„ ๋„˜์–ด์„œ๋Š” 'Patchwork AGI'๊ฐ€ ์ถœํ˜„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. Google DeepMind๋Š” ์ด๋Ÿฌํ•œ ๋ถ„์‚ฐํ˜• AGI์˜ ์œ„ํ—˜์— ๋Œ€์‘ํ•˜๋Š” ๋‹ค์ธต ๋ฐฉ์–ด ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ์ œ์•ˆํ–ˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ๋‹จ์ผ ๋ชจ๋ธ ์•ˆ์ „์„ฑ์„ ๋„˜์–ด ์ง‘๋‹จ์  ์œ„ํ—˜๊นŒ์ง€ ํฌ๊ด„

  • ์‹œ์žฅ ์„ค๊ณ„, ๋ชจ๋‹ˆํ„ฐ๋ง, ๊ทœ์ œ ๋ฉ”์ปค๋‹ˆ์ฆ˜์„ ํ†ตํ•ฉํ•œ ์ข…ํ•ฉ์  ์ ‘๊ทผ

  • ๊ฐ€์ƒ ์—์ด์ „ํŠธ ์ƒŒ๋“œ๋ฐ•์Šค ๊ฒฝ์ œ์—์„œ ๊ฒ€์ฆ ๊ฐ€๋Šฅ

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ๋‹จ์ผ ๋ชจ๋ธ ์•ˆ์ „์„ฑ โ†’ ๋ถ„์‚ฐ AI ์‹œ์Šคํ…œ์˜ ์ง‘๋‹จ์  ์•ˆ์ „์„ฑ ๊ด€๋ฆฌ๋กœ์˜ ์ „ํ™˜์ 
๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๐Ÿ“ ์•Œ๋ฆฌ๋ฐ”๋ฐ”์˜ ์–ด๋„๋น„ ์‚ฌ๋ƒฅ : ํฌํ† ์ƒต ํ‚ฌ๋Ÿฌ์˜ ๋“ฑ์žฅ

Qwen-Image-Layered: Towards Inherent Editability via Layer Decomposition

๐Ÿ›๏ธ ์†Œ์†: Alibaba (Qwen Team)
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: Layer Decomposition, RGBA, Image Editing, VLD-MMDiT

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "AI๊ฐ€ ํฌํ† ์ƒต์ฒ˜๋Ÿผ ๋ ˆ์ด์–ด๋ฅผ ์ž๋™์œผ๋กœ ๋ถ„๋ฆฌํ•ด์ค„ ์ˆ˜ ์žˆ์„๊นŒ?"

  • "๋ฐฐ๊ฒฝ๋งŒ ๋ฐ”๊พธ๊ณ  ์‹ถ์€๋ฐ ์™œ ๋งค๋ฒˆ ์ „์ฒด ์ด๋ฏธ์ง€๊ฐ€ ๋ง๊ฐ€์งˆ๊นŒ?"

  • "์ด๋ฏธ์ง€ ํŽธ์ง‘์˜ ์ผ๊ด€์„ฑ ๋ฌธ์ œ๋ฅผ ๊ทผ๋ณธ์ ์œผ๋กœ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

ํฌํ† ์ƒต ์žฅ์ธ์ด ์ˆ˜์‹ญ ๋ถ„ ๊ฑธ๋ ค ํ•˜๋˜ ๋ ˆ์ด์–ด ๋ถ„๋ฆฌ ์ž‘์—…์„ AI๊ฐ€ ๋‹จ๋ฒˆ์— ํ•ด๋ƒ…๋‹ˆ๋‹ค. Qwen-Image-Layered๋Š” ๋‹จ์ผ RGB ์ด๋ฏธ์ง€๋ฅผ ์˜๋ฏธ์ ์œผ๋กœ ๋ถ„๋ฆฌ๋œ ์—ฌ๋Ÿฌ RGBA ๋ ˆ์ด์–ด๋กœ ์ž๋™ ๋ถ„ํ•ดํ•˜์—ฌ, ๊ฐ ๋ ˆ์ด์–ด๋ฅผ ๋…๋ฆฝ์ ์œผ๋กœ ํŽธ์ง‘ํ•ด๋„ ๋‹ค๋ฅธ ์š”์†Œ์— ์˜ํ–ฅ์„ ์ฃผ์ง€ ์•Š์Šต๋‹ˆ๋‹ค. ์‹ค์ œ PSD ํŒŒ์ผ์—์„œ ํ•™์Šตํ•œ ์ด ๋ชจ๋ธ์€ ์ „๋ฌธ ๋””์ž์ธ ๋„๊ตฌ ์ˆ˜์ค€์˜ ๋ ˆ์ด์–ด ๊ตฌ์กฐ๋ฅผ AI๋กœ ๊ตฌํ˜„ํ–ˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ์ด๋ฏธ์ง€ ํŽธ์ง‘ ์‹œ ์ผ๊ด€์„ฑ ๋ฌธ์ œ๋ฅผ ๋ ˆ์ด์–ด ๋ถ„๋ฆฌ๋กœ ๊ทผ๋ณธ ํ•ด๊ฒฐ

  • ๊ฐ€๋ณ€ ๊ธธ์ด ๋ ˆ์ด์–ด ๋ถ„ํ•ด๋กœ 3~8๊ฐœ ์ด์ƒ ์œ ์—ฐํ•œ ๋ถ„๋ฆฌ ๊ฐ€๋Šฅ

  • Apache 2.0 ๋ผ์ด์„ ์Šค๋กœ ์ƒ์—…์  ์‚ฌ์šฉ๊นŒ์ง€ ์™„์ „ ๋ฌด๋ฃŒ

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ํ‰๋ฉด ๋ž˜์Šคํ„ฐ ์ด๋ฏธ์ง€ ํŽธ์ง‘ โ†’ ์ž๋™ ๋ ˆ์ด์–ด ๋ถ„๋ฆฌ ๊ธฐ๋ฐ˜ ํŽธ์ง‘์˜ ์ „ํ™˜์  ๊ฐ•์กฐ

๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : https://arxiv.org/abs/2512.15603

๐Ÿ’ฐ "20B ๋ชจ๋ธ์ธ๋ฐ 0.5B๋งŒ ์“ด๋‹ค๊ณ ?" Microsoft์˜ ๋ฏธ์นœ ํšจ์œจ, ๊ฒฝ์Ÿ์‚ฌ ๋‹ค ์ฃฝ์ธ๋‹ค

Sigma-MoE-Tiny Technical Report

๐Ÿ›๏ธ ์†Œ์†: Microsoft
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: Mixture-of-Experts, Extreme Sparsity, Progressive Sparsification

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "๋ชจ๋ธ ํŒŒ๋ผ๋ฏธํ„ฐ์˜ 2.5%๋งŒ ์‚ฌ์šฉํ•ด๋„ ์ตœ๊ณ  ์„ฑ๋Šฅ์„ ๋‚ผ ์ˆ˜ ์žˆ์„๊นŒ?"

  • "๊ทน๋‹จ์ ์ธ ํฌ์†Œ์„ฑ์—์„œ ํ•™์Šต ์•ˆ์ •์„ฑ์„ ์–ด๋–ป๊ฒŒ ์œ ์ง€ํ• ๊นŒ?"

  • "MoE ๋ชจ๋ธ์˜ ์ „๋ฌธ๊ฐ€ ๋ถ€ํ•˜ ๊ท ํ˜• ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

๊ฑฐ๋Œ€ํ•œ ๋„์„œ๊ด€์—์„œ ํ•„์š”ํ•œ ์ฑ… ํ•œ ๊ถŒ๋งŒ ์ •ํ™•ํžˆ ์ฐพ์•„๋‚ด๋Š” ๊ฒƒ์ฒ˜๋Ÿผ, Sigma-MoE-Tiny๋Š” ๋ ˆ์ด์–ด๋‹น 96๊ฐœ์˜ ์ „๋ฌธ๊ฐ€ ์ค‘ ๋‹จ 1๊ฐœ๋งŒ ํ™œ์„ฑํ™”ํ•ฉ๋‹ˆ๋‹ค. 20B ํŒŒ๋ผ๋ฏธํ„ฐ ์ค‘ 0.5B๋งŒ ์‚ฌ์šฉํ•˜๋ฉด์„œ๋„ ๋™๊ธ‰ ๋˜๋Š” ๋” ํฐ ๋ชจ๋ธ๋“ค์„ ๋Šฅ๊ฐ€ํ•˜๋Š” ์„ฑ๋Šฅ์„ ๋ณด์—ฌ์ค๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ์˜คํ”ˆ์†Œ์Šค ๋ชจ๋ธ ์ค‘ ๊ฐ€์žฅ ๋†’์€ ํฌ์†Œ์„ฑ ๋‹ฌ์„ฑ

  • ์ ์ง„์  ํฌ์†Œํ™” ์Šค์ผ€์ค„๋กœ ํ•™์Šต ์•ˆ์ •์„ฑ ํ™•๋ณด

  • ์†์‹ค ์ŠคํŒŒ์ดํฌ ์—†์ด ์•ˆ์ •์ ์ธ ์ „์ฒด ํ•™์Šต ๊ณผ์ •

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ์ผ๋ฐ˜์ ์ธ MoE ํฌ์†Œ์„ฑ โ†’ ๊ทน๋‹จ์  ํฌ์†Œ์„ฑ(2.5%)์—์„œ๋„ ์ตœ๊ณ  ์„ฑ๋Šฅ ๋‹ฌ์„ฑ์˜ ์ „ํ™˜์ 
๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๐Ÿง  AI๊ฐ€ ์น˜๋งค ๊ฑธ๋ฆฌ๋Š” ์ด์œ ? NUS๊ฐ€ '์—์ด์ „ํŠธ ๊ธฐ์–ต๋ ฅ'์˜ ๋น„๋ฐ€์„ ํ’€์—ˆ๋‹ค

Memory in the Age of AI Agents

๐Ÿ›๏ธ ์†Œ์†: National University of Singapore, Fudan University
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: Agent Memory, Unified Framework, Memory Architecture

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "AI ์—์ด์ „ํŠธ์˜ ๋ฉ”๋ชจ๋ฆฌ๋Š” RAG๋‚˜ LLM ๋ฉ”๋ชจ๋ฆฌ์™€ ์–ด๋–ป๊ฒŒ ๋‹ค๋ฅผ๊นŒ?"

  • "์žฅ๊ธฐ ๊ธฐ์–ต๊ณผ ๋‹จ๊ธฐ ๊ธฐ์–ต์„ AI์—์„œ ์–ด๋–ป๊ฒŒ ๊ตฌํ˜„ํ• ๊นŒ?"

  • "์—์ด์ „ํŠธ ๋ฉ”๋ชจ๋ฆฌ์˜ ๋ฏธ๋ž˜ ๋ฐœ์ „ ๋ฐฉํ–ฅ์€ ๋ฌด์—‡์ผ๊นŒ?"

์ธ๊ฐ„์˜ ๋‡Œ๊ฐ€ ํ•ด๋งˆ์™€ ๋Œ€๋‡Œํ”ผ์งˆ๋กœ ๊ธฐ์–ต์„ ๋‚˜๋ˆ„์–ด ๊ด€๋ฆฌํ•˜๋“ฏ, ์ด ์„œ๋ฒ ์ด๋Š” AI ์—์ด์ „ํŠธ ๋ฉ”๋ชจ๋ฆฌ๋ฅผ ์•„ํ‚คํ…์ฒ˜, ๊ธฐ๋Šฅ์  ์—ญํ• , ์ž‘๋™ ์—ญํ•™์œผ๋กœ ์ฒด๊ณ„ํ™”ํ–ˆ์Šต๋‹ˆ๋‹ค. LLM ๋ฉ”๋ชจ๋ฆฌ, RAG์™€์˜ ๋ช…ํ™•ํ•œ ๊ตฌ๋ถ„์„ ํ†ตํ•ด ๊ธ‰๋ณ€ํ•˜๋Š” ๋ถ„์•ผ์˜ ๋กœ๋“œ๋งต์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ์—์ด์ „ํŠธ ๋ฉ”๋ชจ๋ฆฌ์— ๋Œ€ํ•œ ์ตœ์ดˆ์˜ ํ†ตํ•ฉ ํ”„๋ ˆ์ž„์›Œํฌ

  • ์œ ์‚ฌ ๊ฐœ๋…๋“ค๊ณผ์˜ ๋ช…ํ™•ํ•œ ๊ฒฝ๊ณ„ ์„ค์ •

  • ๋‹ค์–‘ํ•œ ์—์ด์ „ํŠธ ์‹œ์Šคํ…œ์— ์ ์šฉ ๊ฐ€๋Šฅํ•œ ์ผ๋ฐ˜ํ™”๋œ ๋ถ„๋ฅ˜์ฒด๊ณ„

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ์‚ฐ๋ฐœ์ ์ธ ๋ฉ”๋ชจ๋ฆฌ ์—ฐ๊ตฌ โ†’ ํ†ตํ•ฉ๋œ ์—์ด์ „ํŠธ ๋ฉ”๋ชจ๋ฆฌ ํ”„๋ ˆ์ž„์›Œํฌ์˜ ์ „ํ™˜์ 

๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๐Ÿ“š "์ปจํ…์ŠคํŠธ ๊ธธ์–ด์ง€๋ฉด ๋ฐ”๋ณด ๋œ๋‹ค"๋˜ LLM, Meta๊ฐ€ ์‹ค์‹œ๊ฐ„์œผ๋กœ ๊ณ ์ณ๋ฒ„๋ฆผ

Let's (not) just put things in Context: Test-Time Training for Long-Context LLMs

๐Ÿ›๏ธ ์†Œ์†: Meta, Harvard University, OpenAI
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: Query-only TTT, Score Dilution, Long-Context

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "๊ธด ์ปจํ…์ŠคํŠธ์—์„œ ์ •๋ณด๊ฐ€ ํฌ์„๋˜๋Š” ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "์ถ”๋ก  ์‹œ์ ์— ๋ชจ๋ธ์„ ๋™์ ์œผ๋กœ ์กฐ์ •ํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "์žฌํ•™์Šต ์—†์ด ๊ธด ๋ฌธ์„œ ์ดํ•ด ๋Šฅ๋ ฅ์„ ํ–ฅ์ƒ์‹œํ‚ฌ ์ˆ˜ ์žˆ์„๊นŒ?"

๋ฐฉ๋Œ€ํ•œ ์ž๋ฃŒ์‹ค์—์„œ ํ•„์š”ํ•œ ์ •๋ณด๋ฅผ ์ฆ‰์‹œ ์ฐพ์•„๋‚ด๋Š” ์‚ฌ์„œ์ฒ˜๋Ÿผ, qTTT๋Š” ์ถ”๋ก  ์‹œ์ ์— ์–ดํ…์…˜ ๋ฉ”์ปค๋‹ˆ์ฆ˜์„ ๋™์ ์œผ๋กœ ์กฐ์ •ํ•ฉ๋‹ˆ๋‹ค. 'Score Dilution' ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜์—ฌ LongBench-v2์—์„œ 12.6%, ZeroScrolls์—์„œ 14.1%์˜ ์„ฑ๋Šฅ ํ–ฅ์ƒ์„ ๋‹ฌ์„ฑํ–ˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ์žฌํ•™์Šต ์—†์ด ์ถ”๋ก  ์‹œ์ ์—์„œ ์„ฑ๋Šฅ ํ–ฅ์ƒ

  • Score Dilution ๋ฌธ์ œ์— ๋Œ€ํ•œ ์ตœ์ดˆ์˜ ์ฒด๊ณ„์  ํ•ด๊ฒฐ์ฑ…

  • ๋‹ค์–‘ํ•œ ๊ธด ์ปจํ…์ŠคํŠธ ๋ฒค์น˜๋งˆํฌ์—์„œ ์ผ๊ด€๋œ ๊ฐœ์„ 

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ์ •์ ์ธ ์ปจํ…์ŠคํŠธ ์ฒ˜๋ฆฌ โ†’ ๋™์  Test-Time ์ ์‘์˜ ์ „ํ™˜์ 

๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๐Ÿ”ฎ "๋‹ค์Œ ๋‹จ์–ด๋งŒ ์˜ˆ์ธกํ•œ๋‹ค"๋Š” ๊ฑด ๊ฑฐ์ง“๋ง? Google DeepMind๊ฐ€ ๋ฐํžŒ OpenAI GPT์˜ ์ˆจ๊ฒจ์ง„ ์ดˆ๋Šฅ๋ ฅ

Autoregressive Language Models are Secretly Energy-Based Models

๐Ÿ›๏ธ ์†Œ์†: Google DeepMind
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: ARM-EBM Bijection, Lookahead Capability, Soft Value Function

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "๋‹ค์Œ ํ† ํฐ ์˜ˆ์ธก๋งŒ์œผ๋กœ ์–ด๋–ป๊ฒŒ ๋ฌธ๋งฅ์„ ์ดํ•ดํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "์ž๊ธฐํšŒ๊ท€ ๋ชจ๋ธ์ด ๋ฏธ๋ž˜ ์‹œํ€€์Šค๋ฅผ ๊ณ ๋ คํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "Teacher Forcing์ด ์™œ ํšจ๊ณผ์ ์ธ์ง€ ์ด๋ก ์ ์œผ๋กœ ์„ค๋ช…ํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

์ฒด์Šค ์„ ์ˆ˜๊ฐ€ ๋‹ค์Œ ํ•œ ์ˆ˜๋ฅผ ๋‘๋ฉด์„œ๋„ ์—ฌ๋Ÿฌ ์ˆ˜ ์•ž์„ ๋‚ด๋‹ค๋ณด๋“ฏ, ์ž๊ธฐํšŒ๊ท€ ๋ชจ๋ธ(ARM)์ด ์‚ฌ์‹ค์€ ์—๋„ˆ์ง€ ๊ธฐ๋ฐ˜ ๋ชจ๋ธ(EBM)๊ณผ ์ˆ˜ํ•™์ ์œผ๋กœ ๋™์น˜์ž„์„ ์ฆ๋ช…ํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด๋กœ์จ ARM์ด 'Soft Value Function'์„ ํ†ตํ•ด ์•”๋ฌต์ ์œผ๋กœ ๋ฏธ๋ž˜๋ฅผ ์˜ˆ์ธกํ•˜๋Š” ๋Šฅ๋ ฅ์„ ๊ฐ–์ถ”๊ณ  ์žˆ์Œ์„ ๋ฐํ˜”์Šต๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ARM๊ณผ EBM์˜ ์ด๋ก ์  ํ†ตํ•ฉ

  • Teacher Forcing์˜ ์ตœ์ ์„ฑ์— ๋Œ€ํ•œ ์ตœ์ดˆ์˜ ์ด๋ก ์  ์ฆ๋ช…

  • ํ•จ์ˆ˜ ๊ณต๊ฐ„์—์„œ์˜ ์ผ๋ฐ˜์ ์ธ ์ฆ๋ช…์œผ๋กœ ๋ชจ๋“  ARM์— ์ ์šฉ

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ARM์˜ ๋‹จ์ˆœ ๋‹ค์Œ ํ† ํฐ ์˜ˆ์ธก โ†’ ์•”๋ฌต์  ๋ฏธ๋ž˜ ์˜ˆ์ธก ๋Šฅ๋ ฅ ๋ฐœ๊ฒฌ์˜ ์ „ํ™˜์ 
๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๐ŸŽจ GPT-4o ์„ฑ๋Šฅ์„ ๊ณต์งœ๋กœ? Alibaba๊ฐ€ ๊ณต๊ฐœํ•œ '๋จธ๋ฆฟ์† ์Šค์ผ€์น˜' ๊ธฐ์ˆ 

Sketch-in-Latents: Eliciting Unified Reasoning in MLLMs

๐Ÿ›๏ธ ์†Œ์†: Huazhong University of Science and Technology, Alibaba Cloud Computing
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: SkiLa, Latent Visual Thoughts, Unified Reasoning

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "AI๊ฐ€ ์ด๋ฏธ์ง€๋ฅผ '๋จธ๋ฆฟ์†์—์„œ' ๊ทธ๋ ค๋ณด๋ฉฐ ์ถ”๋ก ํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "ํ…์ŠคํŠธ ์‚ฌ๊ณ ์™€ ์‹œ๊ฐ์  ์‚ฌ๊ณ ๋ฅผ ํ†ตํ•ฉํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "์ถ”๊ฐ€ ๋น„์šฉ ์—†์ด ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ์ถ”๋ก ์„ ํ–ฅ์ƒ์‹œํ‚ฌ ์ˆ˜ ์žˆ์„๊นŒ?"

๊ฑด์ถ•๊ฐ€๊ฐ€ ๋จธ๋ฆฟ์†์œผ๋กœ ๊ฑด๋ฌผ์„ ์ƒ์ƒํ•˜๋ฉฐ ์„ค๊ณ„ํ•˜๋“ฏ, SkiLa๋Š” MLLM์ด ํ…์ŠคํŠธ ์‚ฌ๊ณ ์™€ ์ž ์žฌ์  ์‹œ๊ฐ ์‚ฌ๊ณ ๋ฅผ ๋™์ ์œผ๋กœ ๊ฒฐํ•ฉํ•˜๊ฒŒ ํ•ฉ๋‹ˆ๋‹ค. ์ถ”๊ฐ€ ์ถ”๋ก  ๋น„์šฉ ์—†์ด GPT-4o๊ธ‰ ์„ฑ๋Šฅ์„ ๋‹ฌ์„ฑํ•˜๋ฉฐ, ๋น„์ „ ์ค‘์‹ฌ ๊ณผ์ œ์—์„œ ํŠนํžˆ ๋›ฐ์–ด๋‚œ ์„ฑ๊ณผ๋ฅผ ๋ณด์ž…๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ์ถ”๊ฐ€ ์ถ”๋ก  ๋น„์šฉ ์—†์ด ์„ฑ๋Šฅ ํ–ฅ์ƒ

  • GPT-4o์™€ ๊ฒฝ์Ÿํ•˜๋Š” ์˜คํ”ˆ์†Œ์Šค ์†”๋ฃจ์…˜

  • ๋น„์ „ ์ค‘์‹ฌ ๋ฐ ์ผ๋ฐ˜ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ํƒœ์Šคํฌ ๋ชจ๋‘์—์„œ ๊ฐœ์„ 

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ๋ถ„๋ฆฌ๋œ ํ…์ŠคํŠธ/์‹œ๊ฐ ์ถ”๋ก  โ†’ ํ†ตํ•ฉ๋œ ์ž ์žฌ ๊ณต๊ฐ„ ์ถ”๋ก ์˜ ์ „ํ™˜์ 

๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๐ŸฆŽ AI ์—์ด์ „ํŠธ '์ ์‘๋ ฅ' ์˜ฌ๋ฆฌ๋Š” 4๊ฐ€์ง€ ๋น„๋ฒ•, ์ด ๋…ผ๋ฌธ ํ•˜๋‚˜๋กœ ์ •๋ฆฌ ๋

Adaptation of Agentic AI

๐Ÿ›๏ธ ์†Œ์†: UIUC, Stanford, Princeton, Harvard, UW, Caltech, UCBerkeley, UCSD, GeorgiaTech ๋“ฑ (๋‹ค์ˆ˜ ์œ ๋ช…๋Œ€ํ•™ ์—ฐ๊ตฌ)
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: Adaptation Taxonomy, Four Paradigms, Emergent Patterns

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "AI ์—์ด์ „ํŠธ๊ฐ€ ์ƒˆ๋กœ์šด ํ™˜๊ฒฝ์— ์ ์‘ํ•˜๋Š” ์ตœ์ ์˜ ๋ฐฉ๋ฒ•์€?"

  • "๋‹ค์–‘ํ•œ ์ ์‘ ์ „๋žต์˜ ์žฅ๋‹จ์ ์„ ์–ด๋–ป๊ฒŒ ๋น„๊ตํ• ๊นŒ?"

  • "๋ฐ์ดํ„ฐ ํšจ์œจ์ ์ธ ์ ์‘ ํŒจํ„ด์€ ๋ฌด์—‡์ผ๊นŒ?"

์นด๋ฉœ๋ ˆ์˜จ์ด ํ™˜๊ฒฝ์— ๋”ฐ๋ผ ์ƒ‰์„ ๋ฐ”๊พธ๋“ฏ, ์ด ์—ฐ๊ตฌ๋Š” AI ์—์ด์ „ํŠธ์˜ ์ ์‘ ์ „๋žต์„ ์ตœ์ ํ™” ๋Œ€์ƒ๊ณผ ์ ์‘ ์‹ ํ˜ธ ์†Œ์Šค์— ๋”ฐ๋ผ 4๊ฐ€์ง€ ํŒจ๋Ÿฌ๋‹ค์ž„์œผ๋กœ ๋ถ„๋ฅ˜ํ•ฉ๋‹ˆ๋‹ค. ๋ฐ์ดํ„ฐ ํšจ์œจ์„ฑ๊ณผ ๋ชจ๋“ˆ์„ฑ์„ ๊ฐœ์„ ํ•˜๋Š” ์ƒˆ๋กœ์šด ์•„ํ‚คํ…์ฒ˜ ํŒจํ„ด๋„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ์ตœ์ดˆ์˜ ์ฒด๊ณ„์ ์ธ ์ ์‘ ์ „๋žต ๋ถ„๋ฅ˜์ฒด๊ณ„

  • ๊ฐ ํŒจ๋Ÿฌ๋‹ค์ž„์˜ ํŠธ๋ ˆ์ด๋“œ์˜คํ”„ ๋ช…ํ™•ํ™”

  • ๋” ๊ฐ•๊ฑดํ•˜๊ณ  ํ™•์žฅ ๊ฐ€๋Šฅํ•œ ์—์ด์ „ํŠธ ๊ตฌ์ถ• ๊ฐ€์ด๋“œ๋ผ์ธ ์ œ๊ณต

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ์ž„์˜์  ์ ์‘ ๋ฐฉ์‹ โ†’ ์ฒด๊ณ„์  4-ํŒจ๋Ÿฌ๋‹ค์ž„ ๋ถ„๋ฅ˜์˜ ์ „ํ™˜์ 
๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๐Ÿงญ "๋ณด์ƒ ๋ชจ๋ธ ์—†์ด ์Šค์Šค๋กœ ๋˜‘๋˜‘ํ•ด์ง„๋‹ค?" LLM ์ž๊ธฐ ๊ฐ•ํ™”ํ•™์Šต์˜ ์ƒˆ ์‹œ๋Œ€

Can LLMs Guide Their Own Exploration? Gradient-Guided RL for LLM Reasoning

๐Ÿ›๏ธ ์†Œ์†: Tencent
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: G2RL, Gradient-Guided Exploration, Self-Improvement

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "LLM์ด ์™ธ๋ถ€ ๋„์›€ ์—†์ด ์Šค์Šค๋กœ ๋” ๋‚˜์€ ์ถ”๋ก ์„ ํ•™์Šตํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "๊ฐ•ํ™”ํ•™์Šต์—์„œ ํƒ์ƒ‰์˜ ํšจ์œจ์„ฑ์„ ๋†’์ผ ์ˆ˜ ์žˆ์„๊นŒ?"

  • "๋ชจ๋ธ ๋‚ด์žฌ์  ์‹ ํ˜ธ๋กœ ํ•™์Šต์„ ์•ˆ์ •ํ™”ํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

๋‚˜์นจ๋ฐ˜์ด ์ž๊ธฐ์žฅ์„ ๋”ฐ๋ผ ๋ฐฉํ–ฅ์„ ์ฐพ๋“ฏ, G2RL์€ ๋ชจ๋ธ์˜ ๊ทธ๋ž˜๋””์–ธํŠธ ์—…๋ฐ์ดํŠธ๋ฅผ ํ™œ์šฉํ•ด LLM์˜ ํƒ์ƒ‰ ๋ฐฉํ–ฅ์„ ์•ˆ๋‚ดํ•ฉ๋‹ˆ๋‹ค. ์™ธ๋ถ€ ๋ณด์ƒ ๋ชจ๋ธ ์—†์ด๋„ ์ˆ˜ํ•™ ๋ฐ ์ผ๋ฐ˜ ์ถ”๋ก  ๋ฒค์น˜๋งˆํฌ์—์„œ ์ผ๊ด€๋œ ์„ฑ๋Šฅ ํ–ฅ์ƒ๊ณผ ์•ˆ์ •์ ์ธ ํ•™์Šต์„ ๋‹ฌ์„ฑํ•ฉ๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ์™ธ๋ถ€ ๋ณด์ƒ ๋ชจ๋ธ ์—†์ด ์ž๊ธฐ ๊ฐœ์„  ๊ฐ€๋Šฅ

  • ๊ทธ๋ž˜๋””์–ธํŠธ ๊ธฐ๋ฐ˜์˜ ํšจ์œจ์ ์ด๊ณ  ์•ˆ์ •์ ์ธ ํƒ์ƒ‰

  • ์ˆ˜ํ•™ ๋ฐ ์ผ๋ฐ˜ ์ถ”๋ก  ๋ฒค์น˜๋งˆํฌ ์ „๋ฐ˜์—์„œ ์ผ๊ด€๋œ ๊ฐœ์„ 

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ์™ธ๋ถ€ ๋ณด์ƒ ์˜์กด ํƒ์ƒ‰ โ†’ ์ž๊ธฐ ๊ทธ๋ž˜๋””์–ธํŠธ ๊ธฐ๋ฐ˜ ํƒ์ƒ‰์˜ ์ „ํ™˜์ 
๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๐Ÿ“Š ๋ฐ์ดํ„ฐ ๋…ธ๊ฐ€๋‹ค ๋? LLM์ด ์•Œ์•„์„œ ํ•™์Šต ๋ฐ์ดํ„ฐ๊นŒ์ง€ ๋งŒ๋“ค์–ด์ค€๋‹ค

DataFlow: An LLM-Driven Framework for Unified Data Preparation

๐Ÿ›๏ธ ์†Œ์†: Peking University, Institute for Advanced Algorithms Research, OriginHub Technology, OpenDataLab
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: Data-Centric AI, Workflow Automation, Data Synthesis

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "๋ฐ์ดํ„ฐ ์ค€๋น„ ๊ณผ์ •์„ ์ž๋™ํ™”ํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "๋” ์ž‘์€ ๊ณ ํ’ˆ์งˆ ๋ฐ์ดํ„ฐ์…‹์œผ๋กœ SOTA๋ฅผ ๋‹ฌ์„ฑํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "๋ฐ์ดํ„ฐ ํ•ฉ์„ฑ๊ณผ ์ •์ œ๋ฅผ ํ†ตํ•ฉํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

์ˆ™๋ จ๋œ ์š”๋ฆฌ์‚ฌ๊ฐ€ ์žฌ๋ฃŒ ์„ ๋ณ„๋ถ€ํ„ฐ ์กฐ๋ฆฌ๊นŒ์ง€ ์ผ๊ด€๋˜๊ฒŒ ๊ด€๋ฆฌํ•˜๋“ฏ, DataFlow๋Š” LLM์„ ํ™œ์šฉํ•ด ๋ฐ์ดํ„ฐ ์ค€๋น„์™€ ์›Œํฌํ”Œ๋กœ์šฐ๋ฅผ ํ†ตํ•ฉ ์ž๋™ํ™”ํ•ฉ๋‹ˆ๋‹ค. ๋” ์ž‘์€ ๋ฐ์ดํ„ฐ์…‹์œผ๋กœ๋„ ๋‹ค์–‘ํ•œ ํƒœ์Šคํฌ์—์„œ SOTA ์„ฑ๋Šฅ์„ ๋‹ฌ์„ฑํ•˜๊ฑฐ๋‚˜ ์ดˆ๊ณผํ•ฉ๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ๋ฐ์ดํ„ฐ ์ค€๋น„๋ถ€ํ„ฐ ์ •์ œ๊นŒ์ง€ ํ†ตํ•ฉ ์ž๋™ํ™”

  • ๋” ์ž‘์€ ๋ฐ์ดํ„ฐ์…‹์œผ๋กœ ๋™๋“ฑํ•˜๊ฑฐ๋‚˜ ์šฐ์ˆ˜ํ•œ ์„ฑ๋Šฅ

  • ๋‹ค์–‘ํ•œ ํƒœ์Šคํฌ์—์„œ ์ผ๊ด€๋œ SOTA ๋‹ฌ์„ฑ

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ์ˆ˜๋™ ๋ฐ์ดํ„ฐ ์ค€๋น„ โ†’ LLM ๊ธฐ๋ฐ˜ ์ž๋™ํ™”๋œ ๋ฐ์ดํ„ฐ ์›Œํฌํ”Œ๋กœ์šฐ์˜ ์ „ํ™˜์ 
๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๐Ÿ‘๏ธ "๋””์ฝ”๋”๋งŒ ์“ฐ๋ฉด ๋œ๋‹ค"๋Š” ์ƒ์‹ ๊นจ์กŒ๋‹ค: 128K ํ† ํฐ ์ฒ˜๋ฆฌํ•˜๋Š” ๊ฒฝ๋Ÿ‰ ๋ชจ๋ธ์˜ ์—ญ์Šต

T5Gemma 2: Seeing, Reading, and Understanding Longer

๐Ÿ›๏ธ ์†Œ์†: Google DeepMind
๐Ÿท๏ธ ํ•ต์‹ฌ ํ‚ค์›Œ๋“œ: Encoder-Decoder, 128K Context, Multilingual Multimodal

๐Ÿ’ญ ์ด๋Ÿฐ ์งˆ๋ฌธ์„ ํ•ด๋ณธ ์  ์žˆ๋‚˜์š”?

  • "์ธ์ฝ”๋”-๋””์ฝ”๋” ๊ตฌ์กฐ๊ฐ€ ๋””์ฝ”๋” ์ „์šฉ ๋ชจ๋ธ์„ ์ด๊ธธ ์ˆ˜ ์žˆ์„๊นŒ?"

  • "๋‹ค๊ตญ์–ด, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ, ๊ธด ์ปจํ…์ŠคํŠธ๋ฅผ ๋™์‹œ์— ์ง€์›ํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

  • "๊ฒฝ๋Ÿ‰ ๋ชจ๋ธ๋กœ 128K ํ† ํฐ์„ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์„๊นŒ?"

๋Šฅ์ˆ™ํ•œ ํ†ต์—ญ์‚ฌ๊ฐ€ ๊ธด ์—ฐ์„ค์„ ๋“ฃ๊ณ  ํ•ต์‹ฌ์„ ์ •ํ™•ํžˆ ์ „๋‹ฌํ•˜๋“ฏ, T5Gemma 2๋Š” ๊ฒฝ๋Ÿ‰ ์ธ์ฝ”๋”-๋””์ฝ”๋” ๊ตฌ์กฐ๋กœ 128K ํ† ํฐ์˜ ๊ธด ์ปจํ…์ŠคํŠธ๋ฅผ ์ดํ•ดํ•ฉ๋‹ˆ๋‹ค. ๋‹ค๊ตญ์–ด์™€ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ์ธ์‹๊นŒ์ง€ ์ง€์›ํ•˜๋ฉฐ Gemma 3 ๋””์ฝ”๋” ์ „์šฉ ๋ชจ๋ธ๊ณผ ๋™๋“ฑํ•˜๊ฑฐ๋‚˜ ์šฐ์ˆ˜ํ•œ ์„ฑ๋Šฅ์„ ๋ณด์ž…๋‹ˆ๋‹ค. ํŠนํžˆ ์ฃผ๋ชฉํ•  ์ :

  • ์ธ์ฝ”๋”-๋””์ฝ”๋”์˜ ๊ตฌ์กฐ์  ํšจ์œจ์„ฑ ํ™œ์šฉ

  • ๋””์ฝ”๋” ์ „์šฉ Gemma 3์™€ ๋™๋“ฑํ•˜๊ฑฐ๋‚˜ ์šฐ์ˆ˜ํ•œ ์„ฑ๋Šฅ

  • ๋‹ค๊ตญ์–ด, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ, 128K ๊ธด ์ปจํ…์ŠคํŠธ ๋™์‹œ ์ง€์›

๐ŸŽฏ ์™œ ์ด๊ฒƒ์ด ๊ฒŒ์ž„ ์ฒด์ธ์ €์ธ๊ฐ€? : ๋””์ฝ”๋” ์ „์šฉ ํŠธ๋ Œ๋“œ โ†’ ์ธ์ฝ”๋”-๋””์ฝ”๋”์˜ ์žฌ๋„์•ฝ ์ „ํ™˜์ 
๐Ÿ”— ๋” ์ž์„ธํ•œ ๋‚ด์šฉ์ด ๊ถ๊ธˆํ•˜๋‹ค๋ฉด : ๋…ผ๋ฌธ ๋งํฌ

๋งค์ฃผ ํ™”์š”์ผ ์˜ค์ „ 8์‹œ,
๋ฐ”์œ ๋‹น์‹ ์„ ๊ธฐ์ˆ  ๋ฐœ์ „์— ๋’ค์ณ์ง€์ง€ ์•Š๊ฒŒ ๋งŒ๋“ค์–ด์ค„
์ตœ์‹  AI ํŠธ๋ Œ๋“œ๊ฐ€ ์š”์•ฝ ์ •๋ฆฌ๋ณธ์œผ๋กœ ์ „๋‹ฌ๋ฉ๋‹ˆ๋‹ค!