em delimitaçãoTRL 4 (4 de 9)horizonte Década de 2030
Mover bits entre memória e processador e entre chips com uma pequena fração da energia atual por bit, por meio de enlaces elétricos mais curtos e densos, memória dentro do encapsulamento e interconexões ópticas.
Escopo
No escopo: energia por bit das interfaces de memória e dos enlaces entre chips, incluindo o transceptor nas duas pontas. Fora do escopo: a lógica que computa sobre os dados, coberta por computing/beyond-cmos-logic; os próprios chips fotônicos, cobertos por enablers/photonic-integration.
Maturidade
TRL 4 (4 de 9)
O melhor valor encontrado é de um protótipo de interface die-to-die em 28 nm; ainda não há valor com fonte de um sistema em operação.
Energia por bit movimentado principalfaltam 0,8 ordens de grandeza
Energia para mover um bit entre a memória e o processador, ou entre chips, incluindo a interface nas duas pontas. Quanto menor, melhor.
Atual (2024-04-01)6,5 × 10⁻¹³ J
Meta10⁻¹³ J
Limite–
Condições. Energia de interface de um enlace elétrico die-to-die sobre um interposer de silício, só o transceptor; um protótipo, não um sistema de memória em operação.
Por que esta meta. Raciocínio definido pelo atlas, não uma meta de agência: a 0,1 pJ/bit, um acelerador que transmite 10 TB/s (8e13 bit/s, uma taxa suposta da classe HBM) gasta 8 W no enlace, contra 52 W aos atuais 0,65 pJ/bit; isso leva a energia de interconexão a menos de alguns por cento de um acelerador da classe do quilowatt.
Observação. 0,65 pJ/bit. as_of é o mês aproximado do preprint; o resumo não dá data.
Integração fotônicaEnlaces ópticos prometem baixa energia por bit em distâncias maiores que os enlaces elétricos, e precisam de chips fotônicos integrados fabricados em volume.
Necessária para
Inferência de IA com eficiência energéticaA geração de tokens lê da memória os pesos do modelo e o cache de chave-valor a cada token, de modo que o tráfego de memória e entre chips responde por uma grande parte da energia. Necessário: Energia por bit movido entre memória e processador igual ou inferior a 0,1 pJ, de modo que transmitir os pesos custe poucos watts por terabyte por segundo.