Масштабування і розподіл підзадач по процесорах

У розглянутій схемі паралельних обчислень кількість блоків може змінюватися залежно від вибору розміру блоків. Ці розміри можуть бути підібрані так, щоб загальна кількість базових підзадач співпадала з числом процесорів. Так, наприклад, в найбільш простому випадку, коли число процесорів можна спів ставити з (тобто є повним квадратом) можна вибрати кількість блоків в матрицях по вертикалі і горизонталі рівною (тобто ;). Такий спосіб визначення кількості блоків призводить до того, що об'єм обчислень в кожній підзадачі є однаковим і, тим самим, досягається повне балансування обчислювального навантаження між процесорами. У загальному випадку при довільних кількості процесорів і розмірах матриць балансування обчислень може бути не однаковим, але за належного вибору параметроів може бути оптимізованим.

Для ефективного виконання алгоритму Фокса, в якому базові підзадачі представлені у вигляді квадратних грат, найбільш адекватним рішенням є організація великої кількості процесорів у вигляді квадратних грат. В цьому випадку можна здійснити безпосереднє відображення набору підзадач на безліч процесорів — базову підзадачу () слід розташовувати на процесорі. Необхідна структура мережі передачі даних може бути забезпечена на фізичному рівні, якщо топологія обчислювальної системи має вигляд грат або повного графа.