Du musst hier immer zwei Seiten derselben Medaille betrachten - die Hardwareseite bei der dank SMT (ich verwende hier bewußt nicht den Begriff der der Marketingabteilung von Intel entsprungen ist, die Technik jedoch nicht wirklich beschreibt sondern lieber mit einem Schlagwort wie "Hyper" auf Kundenfang geht) die Auslastung der verfügbaren Recheneinheiten in Grenzen optimiert werden kann sowie die Softwareseite bei welcher der Overhead massiv steigt wenn sich die Anzahl der CPUs erhöht.
Und auch unendliche viele logische CPU-Kerne bringen überhaupt nichts, letztendlich sind die tatsächlich vorhandenen Recheneinheiten nur in beschränkter Anzahl verfügbar - womit schon mal von Haus aus physikalische Grenzen gesetzt sind.
Und nicht zu verachten ist wie bereits erwähnt das sog. Speicher-Locking beim Einsatz mehrerer CPUs welches nötig ist, um die Integrität der Daten zu sichern. Je mehr CPUs desto geringer wird der zusätzliche Leistungsgewinn und desto höher wird der Verwaltungsoverhead.