LLM Inference in C++
Idioma: inglés
Editorial: Independently Published, 2026
- Tapa blanda
- Nuevo
Librería: PBShop.store US, Wood Dale, IL, Estados Unidos de AmericaPBShop.store US
Vendedor de IberLibro desde 7 de abril de 2005
Condición: Nuevo
EUR 33,50
Cantidad disponible: Más de 20 disponibles
Añadir al carritoDescripción del artículo del vendedor
New Book. Shipped from UK. Established seller since 2000.
N° de ref. del artículo L2-9798259069299
- Título
- LLM Inference in C++
- Autor
- S. Lightner, Billie
- Editorial
- Independently Published
- Año de publicación
- 2026
- Estado
- New
- Encuadernación
- PAP
- Idioma
- inglés
- ISBN 13
- 9798259069299
- Peso del artículo
- 454 gramos
- Serie
- Libro 7 de 11: High-Performance C++ Engineering
The "VRAM Wall" is the biggest bottleneck in modern AI. Standard Python wrappers and out-of-the-box runtimes are fine for prototyping, but at scale, memory fragmentation and Global Interpreter Lock (GIL) overhead will destroy your throughput. LLM Inference in C++ is the definitive engineering manual for bypassing Python entirely and building custom, bare-metal inference engines that maximize hardware utilization.
Focusing on the cutting-edge 2026 landscape, this book bridges the gap between high-level AI concepts and low-level GPU execution. You will learn how to implement enterprise-grade features like PagedAttention, FlashAttention-3, and Continuous Batching directly in C++ and CUDA, unlocking massive performance gains for large-scale language models.
Inside, you will discover:
- Hardware-Aware Memory Management: Eliminate memory waste by implementing PagedAttention logic and custom allocators to bypass std::malloc overhead.
- Accelerated Tensor Algebra: Master C++23's std::mdspan and write fused SIMD kernels with AVX-512 to minimize GPU context switching.
- Custom CUDA Kernels: Write high-speed FlashAttention-3, LayerNorm, and RMSNorm kernels while managing CUDA streams for maximum GPU occupancy.
- The Cost Killer (Quantization): Slash VRAM requirements with bit-level manipulation for 4-bit (AWQ) and 8-bit (FP8) inference using NVIDIA Tensor Cores.
- Distributed & Speculative Execution: Scale across clusters using zero-copy NCCL/RDMA interconnects and implement Draft Models to accelerate massive architectures.
- The Production Serving Layer: Build lock-free C++ request queues for continuous batching and track P99 "Time to First Token" (TTFT) at the systems level.
Built for the infrastructure engineer in the trenches, the Appendix provides immediate, battle-tested utility:
- The 15-Point Production-Ready Checklist: Your mandatory safety and performance audit before deploying any custom engine.
- Latency vs. Throughput Reference Table: The ultimate cheat sheet for balancing batch sizes against user wait times.
- Troubleshooting Guide: Direct solutions for the top 10 most common and devastating CUDA and C++ memory errors.
“Sinopsis” puede pertenecer a otra edición de este título.
PBShop.store US
Wood Dale, IL, Estados Unidos de America
Vendedor de IberLibro desde 7 de abril de 2005
Tarifas de envío en Estados Unidos de America
| Artículo | De 7 a 14 días hábiles | De 7 a 14 días hábiles |
|---|---|---|
| Primer artículo | EUR 0,00 | EUR 0,00 |
Métodos de pago
Descripción de la tienda
We first started out as “The Paperback Exchange,” a chain of physical bookstores where we would part exchange your beloved books for new stories to transport you to faraway places. However, as shopping started to evolve to online shops and marketplaces, we bid our stores goodbye to become “PBShop.” This transition has only allowed us to blossom as we now ship thousands of titles to book lovers across the globe. We pride ourselves in being a community of local book lovers which allows our passion and devotion to shine in everything we do. In 2020 we not only celebrated our 20th birthday but our 1st birthday as being completely employee owned after becoming an E.O.T in September 2019. We are proud to be different and embrace standing apart on a book mountain by working from a virtual inventory which allows us to provide thousands of books that may be difficult to get for your bookshelf or your studies. Working with a number of different suppliers allows us to explore other avenues such as puzzles, sheet music and even stationery so we really do have something for everyone. Life is about being versatile in all realms of existence. If this is your first visit or you are a returning customer, we would like to welcome you to the PBShop family, for there is no friend as loyal as a book. We are a company who put our customers at the centre of everything we do as we understand the importance of reading because once you learn to read, you will forever be free. There are a whole lot of things in this world of ours that we are yet to explore, which is why we will forever inspire curious minds.…
Especialidad
Hardbacks, PaperbacksInformación empresarial del vendedor
Pbshop.co.uk Ltd
Unit 22 Horcott Industrial Estate, Horcott Road
Fairford, Reino Unido GL7 4BX
Condiciones de venta
Returns Policy
We ask all customers to contact us for authorisation should they wish to return their order. Orders returned without authorisation may not be credited.
If you wish to return, please contact us within 14 days of receiving your order to obtain authorisation.
Returns requested beyond this time will not be authorised.
Our team will provide full instructions on how to return your order and once received our returns department will process your refund.
Please note the cost to return any unwanted order to us is borne by the buyer.
Should your order arrive damaged, not as advertised or faulty, we must be advised of this within 14 days of delivery. Please contact us so we can find the best solution for you.
Our Customer Care Team can be contacted via emailing paperback-us@paperbackshop.co.uk, or by calling our UK Office on +441285 712 917. We are available 9:00am till 5:30pm GMT weekdays and 9:00am till 1:00pm GMT on Saturdays.
Derecho al desistimiento
Si es un consumidor, puede rescindir el contrato de acuerdo con lo siguiente. Por consumidor se entiende cualquier persona física que actúe con fines ajenos a su actividad comercial, empresarial, oficio o profesión.
Información sobre el derecho de desistimiento
Derecho legal de desistimiento
Tiene derecho a rescindir este contrato en un plazo de 14 días sin dar ningún motivo.
El periodo de desistimiento vencerá a los 14 días desde que usted, o un tercero que no sea el transportista e indicado por usted, adquiera la posesión física del último bien o del último lote o pieza.
Para ejercer el derecho de desistimiento, complete de forma electrónica y envíe una declaración clara en nuestro sitio web, desde "Mis compras" en "Mi cuenta". Le enviaremos sin demora un acuse de recibo de dicho desistimiento a través de un soporte duradero (por ejemplo, por correo electrónico).
Para cumplir con el plazo de desistimiento, basta con que envíe su comunicación relativa al ejercicio del derecho de desistimiento antes de que venza el periodo de desistimiento.
Efectos del desistimiento
Si rescinde este contrato, le reembolsaremos todos los pagos que hayamos recibido de usted, incluidos los gastos de envío (excepto los gastos adicionales que surjan si elige un tipo de envío que no sea el tipo de envío estándar más económico que ofrecemos).
Podemos hacer una deducción del reembolso por la pérdida de valor de cualquier bien suministrado, si la pérdida es el resultado de una manipulación innecesaria por su parte.
Efectuaremos el reembolso sin demoras indebidas y, a más tardar, 14 días después de que se nos informe de su decisión de rescindir este contrato.
Efectuaremos el reembolso utilizando el mismo medio de pago que utilizó para la transacción inicial, a menos que haya acordado expresamente lo contrario; en cualquier caso, no incurrirá en ningún cargo como resultado de dicho reembolso.
Podremos retener el reembolso hasta que hayamos recibido los bienes o hasta que nos haya presentado una prueba de que los ha devuelto, lo que ocurra primero.
Deberá devolver los bienes o entregarlos a PBShop.store US, Springfield Gardens, New York, U.S.A., +44 1285 712917, sin demoras indebidas y, en cualquier caso, en un plazo máximo de 14 días a partir del día en que nos comunique su desistimiento del presente contrato. El plazo se cumple si devuelve la mercancía antes de que venza el periodo de 14 días. Tendrá que asumir los gastos directos de devolución de los bienes. Usted solo es responsable de la disminución del valor de los bienes como resultado de una manipulación distinta a la necesaria para establecer la naturaleza, las características y el funcionamiento de los bienes.
Excepciones al derecho de desistimiento
El derecho de desistimiento no se aplica a lo siguiente:
- La entrega de periódicos, diarios o revistas, con la excepción de los contratos de suscripción; y
- El suministro de contenido digital que no se proporcione en un soporte tangible (por ejemplo, en un CD o DVD) si, al hacer el pedido, aceptó que podíamos empezar a entregarlo y que no podría desistir una vez iniciada la entrega.
Condiciones de envío
Books are shipped from our US or UK warehouses. Delivery estimates allow for delivery from either location.