Segun mi opinion, lo mejor es tener tablas con pocas columnas, no importa que tengan muchas filas (ya que SQL Server esta optimizado para trabajar con muchas filas a la vez, y no registro por registro).
Los datos se almacenan en paginas de 8K y cuando una fila supera ese tamano se requiere mas de una lectura para obtener una fila completa.
Saludos!