Los pulsos eléctricos viajan a través de un cable a una velocidad que no puede ser mayor que la de la luz. Para extraer y ejecutar una instrucción en dicho tipo de máquina se necesitan varios nanosegundos, lo que implica que el incrementar la velocidad de ejecución de una máquina termina transformándose en un problema de miniaturización.
Sin embargo, el incrementar la velocidad de ejecución no es la única manera de mejorar el rendimiento de una computadora. El objetivo real consiste en aumentar la tasa de procesamiento de la máquina, que hace referencia a la cantidad total de trabajo útil que la máquina puede realizar en un determinado periodo de tiempo.
Un ejemplo de como incrementar la tasa de procesamiento de una computadora sin necesidad de aumentar la velocidad de ejecución sería la técnica denominada segmentación de cause (pipeliniing), que es la técnica consistente en permitir que se solapen los distintos pasos que componen en el ciclo de máquina. En particular, mientras una instrucción esta ejecutándose, puede irse extrayendo la siguiente instrucción, lo que quiere decir que puede haber más de una instrucción en el “cause de procesamiento” en cualquier momento dado estando cada una de esas instrucciones en una etapa diferente de su procesamiento. Esto hace que la tasa total de procesamiento de la máquina se incremente, aunque el tiempo requerido para extraer y ejecutar cada instrucción sigue siendo el mismo.
La segmentación de cause puede considerarse como una especie de primer paso hacia el procesamiento paralelo, que es la técnica que consiste en realizar varias actividades al mismo. Sin embargo, el verdadero procesamiento paralelo requiere más de una unidad de procesamiento, lo que da como resultado las computadoras conocidas con el nombre de máquina multiprocesador. El resultado es una máquina en al que se ejecutan diferentes secuencias de instrucciones para distintos conjuntos de datos, lo que se denomina arquitectura MIMD (Multiple-instruction stream, Multiple-data stream), por oposición a la arquitectura más tradicional SISD (Single-instruction stream, Single-data stream), que opera como un único flujo de instrucciones y un único flujo de datos.
Una variante de la arquitectura multiprocesador consiste en enlazar los procesadores entre sí, para que puedan ejecutar la misma secuencia de instrucciones al unísono, cada uno con su propio conjunto de datos. Esto conduce a la arquitectura SIMD (Single-instruction stream, Multiple-data stream). Dichas máquinas son útiles para aqullas aplicaciones en las que se tenga que llevar a cabo la misma tarea con cada conjunto de elementos similares dentro de un bloque de datos de gran tamaño.
Otra técnica de procesamiento paralelo consiste en construir computadoras de gran tamaño com conglomerados de máquinas más pequeñas, cada una con su propia memoria y su propio procesador. Con este tipo de arquitectura, cada una de las máquinas de pequeño tamaño está acoplada a sus vecinas, de modo que las tareas asignadas al sistema completo pueden reparartirse entre las máquinas individuales. La tarea original puede así completarse en mucho menos tiempo que el que se requeriría utilizando una máquina con un único procesador.
