Imagem: David290 · CC BY-SA 4.0 · Wikimedia Commons
A DFRobot apresentou o DX-M1, um acelerador de IA do tamanho de um SSD NVMe que ocupa um slot M.2 da placa-mãe. São 25 TOPS de cálculo INT8 por entre 2 e 5 watts, a US$ 139. A ligação com o sistema é feita por PCIe Gen 3.
O módulo tem 4GB de memória LPDDR5 própria e 128GB de flash para guardar pesos de modelos, sem tocar na RAM do computador. Serve para inferência, como visão computacional e navegação de robôs, e não treina nem roda LLM pesado. Quem encaixa o módulo perde o slot para um SSD comum.
