Piattaforma a microservizi per oltre 100.000 utenti giornalieri con disponibilità del 99,99%. ControlNet a cascata, armonizzazione dei volti, controllo automatico della qualità, TensorRT e kernel CUDA personalizzati hanno reso l'inferenza 4,1 volte più veloce.
Libreria di apprendimento delle rappresentazioni sviluppata da zero: throughput triplicato, uso della memoria ridotto del 47% e incrementi fino al 2,4% nelle metriche di produzione su più di 7.400 categorie. Include batch mining intelligente, precisione mista e addestramento distribuito su più GPU.
La selezione basata su YOLO e la valutazione automatica della qualità hanno trasformato 310 milioni di immagini grezze in un dataset di 87 milioni. Il progetto ha vinto una competizione interna di ML e migliorato fino al 6,7% la misura F1 della ricerca visiva.
Quattordici modelli di classificazione e rilevamento di immagini e video per pubblicità ad alto rischio. CrossViT ha aumentato l'accuratezza del 3,6% e bloccato oltre 1,8 milioni di contenuti inappropriati al mese; il fine-tuning di BERT multilingue ha raggiunto un throughput 2,7 volte maggiore con il 93% di accuratezza.
Il rilevamento dei segnali stradali con meccanismi di attenzione ha migliorato la precisione del 2,1% e il richiamo del 3,6%. L'integrazione in RetinaNet ha portato la mAP da 0,906 a 0,937, seguita dalla distribuzione come nodo ROS in tempo reale su un veicolo aziendale.
RetinaNetAttention HeadsROSC++Autonomous Driving
case_study 06
2.4×Smaller vs BTS9 → 21Inference QPSM.Sc.Tsinghua Thesis
Stima della profondità (tesi)
Nuova architettura encoder-decoder U-Net per la stima della profondità di ogni pixel. Accuratezza pari a quella di BTS, allora allo stato dell'arte, con un modello 2,4 volte più piccolo e QPS aumentato da 9 a 21. Tesi di laurea magistrale presso l'Università Tsinghua.
U-Net VariantMonocular DepthPyTorch3D Vision
interactive_demo
demo_similarity_title
demo_similarity_sub
Query: tabby_cat.jpg → Nearest: 'a photo of a cat' (cos=0.97) · persian.jpg (cos=0.95) · siamese.jpg (cos=0.93)
BENCHMARK LAB · TENSORRT FP16 / CUDA
Precision vs. Inference Speed
Compare production runtime configurations on a 1080p multi-object detection & tracking stream (NVIDIA T4 / A10 GPU).
p99 Frame Latency11.4 ms
Sustained Throughput87.7 FPS
Device Memory Footprint2.1 GB · -0.1% mAP@50
Layer-fused TensorRT FP16 engine with dynamic batching.
Parlo correntemente 4 lingue e sto imparando l'italiano.