T�tulo: AI Inference Optimization Engineering : Quantization, Speculative Decoding, and Hardware-Specific LLM Deployment
Editor: Independently Published Jun 2026
Fecha de publicaci�n: 2026
Idioma: Ingl�s
ISBN 13: 9798199720021
Encuadernaci�n: Taschenbuch
Estado: Neu
Dimensiones: 229�mil�metros de ancho por 152 de alto por 5 de largo
Peso: 142 gramos

Acerca de

Sinopsis

Slash LLM Deployment Costs and Latency

Deploying Large Language Models (LLMs) in production is a massive economic and engineering hurdle. AI Inference Optimization Engineering is your comprehensive, hands-on guide to mastering the full stack of modern LLM optimization techniques. From memory-bandwidth solutions to hardware-specific compilation, this book bridges the gap between research-level models and enterprise-grade execution.

What you will master inside this book:

Hardware-Aware Optimization: Dive deep into KV cache mechanics, autoregressive decoding, and GPU memory hierarchies to eliminate latency bottlenecks.
State-of-the-Art Quantization: Apply GPTQ, AWQ, and GGUF compression algorithms to scale down massive neural networks without sacrificing model accuracy.
Advanced Acceleration Methods: Implement speculative decoding with draft models (like Medusa and Eagle), PagedAttention, and FlashAttention to boost throughput by 2-3x.
Production-Grade Serving: Build ultra-low-latency deployment infrastructures using vLLM, Triton Inference Server, and continuous batching.
Cross-Platform Deployment: Optimize models for specific target hardware, including NVIDIA H100 (TensorRT-LLM), Apple Silicon (llama.cpp/Metal), and Qualcomm mobile/edge accelerators.

Whether you are an ML infrastructure engineer, an AI platform architect, or a technical leader looking to scale LLMs cost-effectively, this book provides the production-ready code, equations, and architectural patterns you need to build hyper-efficient AI pipelines.

"Sobre este t�tulo" puede pertenecer a otra edici�n de este libro.

Descripci�n de la librer�a

Das Unternehmen AHA-BUCH GmbH: Seit der Gr�ndung von AHA-BUCH im Juli 2005 ist unser Hauptziel, zufriedenen Kunden so schnell und so preisg�nstig wie m�glich ihren B�cherwunsch zu erf�llen. Unsere Firma besch�ftigt 16 Mitarbeiter, die nur ein Ziel kennen: den Kunden und seine W�nsche! Auf �ber 3700 m2 Fl�che haben wir �ber 100.000 B�cher, Modernes Antiquariat und Spiele auf Lager.

Ver la p�gina web de la librer�a

Informaci�n empresarial del vendedor

AHA-BUCH GmbH
Garlebsen 48, Einbeck, 37574, Germany

Condiciones de venta y env�o

Condiciones de venta

T�rminos y Condiciones Generales e Informaci�n del Cliente / Pol�tica de Privacidad

I. T�rminos y Condiciones Generales

� 1 Disposiciones b�sicas

(1)Los siguientes t�rminos y condiciones se aplican a todos los contratos que celebre con nosotros como proveedor (AHA-BUCH GmbH) a trav�s de las plataformas de Internet AbeBooks y/o ZVAB. A menos que se acuerde lo contrario, se objetar� la inclusi�n de cualquiera de sus propios t�rminos y condiciones utilizados por usted.
(2)Un consumidor en el sentid...

M�s informaci�n

Derecho a cancelaci�n

Si eres un consumidor puedes cancelar el presente contrato de acuerdo con lo indicado a continuaci�n. Son consumidores las personas f�sicas que act�en con un prop�sito ajeno a su actividad comercial, empresarial, oficio o profesi�n.

Documento de informaci�n al consumidor y usuario sobre el desistimiento

Derecho de desistimiento:

Tienes derecho a desistir del presente contrato en un plazo de 14 d�as naturales sin necesidad de justificaci�n.

El plazo de desistimiento expirar� a los 14 d�as naturales del d�a en que t� o un tercero que hayas indicado, distinto del transportista, adquiera la posesi�n material del �ltimo bien, componente o pieza.

Para ejercer el derecho de desistimiento, deber�s notificarnos a AHA-BUCH GmbH, Garlebsen 48, 37574, Einbeck, Germany, 49 55639996039, de tu decisi�n de desistir del contrato a trav�s de una declaraci�n inequ�voca (por ejemplo, una carta enviada por correo postal, fax o correo electr�nico). Podr�s utilizar el modelo de formulario de desistimiento que figura a continuaci�n, aunque su uso no es obligatorio. Tienes asimismo la opci�n de cumplimentar y enviar electr�nicamente el modelo de formulario de desistimiento o cualquier otra declaraci�n inequ�voca a trav�s de nuestro sitio web a "Mis pedidos" en "Mi cuenta". Si recurres a esta opci�n, te comunicaremos sin demora en un soporte duradero (por ejemplo, por correo electr�nico) la recepci�n de dicho desistimiento.

Para cumplir el plazo de desistimiento, basta con que la comunicaci�n relativa al ejercicio por tu parte de este derecho sea enviada antes de que venza el plazo correspondiente.

Consecuencias del desistimiento:

En caso de desistimiento por tu parte, te devolveremos todos los pagos recibidos de ti, incluidos los gastos de entrega (con la excepci�n de los gastos adicionales resultantes de la elecci�n por tu parte de una modalidad de entrega diferente a la modalidad menos costosa de entrega ordinaria que ofrezcamos) sin ninguna demora indebida y, en todo caso, a m�s tardar 14 d�as naturales a partir de la fecha en la que se nos informes de tu decisi�n de desistir del presente contrato. Procederemos a efectuar dicho reembolso utilizando el mismo medio de pago empleado por ti para la transacci�n inicial, a no ser que hayas dispuesto expresamente lo contrario; en todo caso, no incurrir�s en ning�n gasto como consecuencia del reembolso.

Podremos retenerte el reembolso hasta haber recibido los bienes, o hasta que hayas presentado una prueba de la devoluci�n de los mismos, seg�n qu� condici�n se cumpla primero. Deber�s devolvernos o entregarnos directamente los bienes a AHA-BUCH GmbH, Garlebsen 48, 37574, Einbeck, Germany, 49 55639996039, sin ninguna demora indebida y, en cualquier caso, a m�s tardar en el plazo de 14 d�as naturales a partir de la fecha en que nos comuniques tu decisi�n de desistimiento del contrato. Se considerar� cumplido el plazo si efect�as la devoluci�n de los bienes antes de que haya concluido dicho plazo. Deber�s asumir el coste directo de devoluci�n de los bienes. Solo ser�s responsable de la disminuci�n de valor de los bienes resultante de una manipulaci�n distinta a la necesaria para establecer la naturaleza, las caracter�sticas y el funcionamiento de los bienes.

Excepciones al derecho de desistimiento:

La entrega de peri�dicos, publicaciones especializadas o revistas con la excepci�n de contratos de suscripci�n; y
La entrega de contenido digital (incluyendo apps, software digital e-books, MP3, etc.) que no hubiera sido entregado en un medio tangible (por ejemplo: CD o DVD), si al realizar tu pedido has aceptado que podemos proceder al env�o del producto y que no resulta posible su cancelaci�n una vez comienza la entrega.

Modelo de formulario de desistimiento

(S�lo debe cumplimentar y enviar el presente formulario si desea desistir del contrato)

A la atenci�n de: (AHA-BUCH GmbH, Garlebsen 48, 37574, Einbeck, Germany, 49 55639996039)

Por la presente le comunico/comunicamos* que desisto de mi/desistimos de nuestro* contrato de venta del siguiente bien/prestaci�n del siguiente servicio*

Pedido el/recibido el*:

Nombre del consumidor y usuario o de los consumidores y usuarios:

Domicilio del consumidor y usuario o de los consumidores y usuarios:

Firma del consumidor y usuario o de los consumidores y usuarios (solo si el presente formulario se presenta en papel):

Fecha:

* Eliminar en su caso

Condiciones de env�o

Enviamos su pedido despu�s de recibirlos
para art�culos disponibles las �ltimas 24 horas,
para art�culos con suministro nocturno a m�s tardar 48 horas.
En caso de que necesitemos pedir un art�culo a nuestro proveedor, nuestro tiempo de env�o depende de la fecha de recepci�n de los art�culos, pero los art�culos se enviar�n el mismo d�a.

Nuestro objetivo es enviar los art�culos pedidos de la manera m�s r�pida, pero tambi�n m�s eficiente y segura a nuestros clientes.

Tarifas de env�o de Alemania a Estados Unidos de America

Tarifas de env�o de Alemania a Estados Unidos de America
Cantidad del pedido	De 30 a 40 d�as h�biles	De 7 a 14 d�as h�biles
Primer art�culo	EUR 60.71	EUR 70.71

Los plazos de entrega los establecen los vendedores y var�an seg�n el transportista y la ubicaci�n. Los pedidos que pasan por la aduana pueden sufrir retrasos y los compradores son responsables de los aranceles o tarifas asociadas. Los vendedores pueden ponerse en contacto con usted en relaci�n con cargos adicionales para cubrir cualquier aumento en los costes de env�o de los art�culos.

Informaci�n detallada sobre el vendedor