Как обойтись без рекурсии

Для универсальных языков программирования (каковым является паскаль) рекурсия не дает ничего нового: для всякой рекурсивной программы можно написать эквивалентную программу без рекурсии. Мы не будем доказывать этого, а продемонстрируем некоторые приемы, позволяющие избавиться от рекурсии в конкретных ситуациях.

Зачем это нужно? Ответ прагматика мог бы быть таким: во многих компьютерах (в том числе, к сожалению, и в современных, использующих так называемые RISC-процессоры), рекурсивные программы в несколько раз медленнее соответствующих нерекурсивных программ. Еще один возможный ответ: в некоторых языках программирования рекурсивные программы запрещены. А главное, при удалении рекурсии возникают изящные и поучительные конструкции.

8.1. Таблица значений (динамическое программирование)

8.1.1. Следующая рекурсивная процедура вычисляет числа сочетаний (биномиальные коэффициенты). Написать эквивалентную нерекурсивную программу.

function C(n,k: integer):integer;
| {n >= 0; 0 <=  k <=n}
begin
| if (k = 0) or (k = n) then begin
| | C:=1;
| end else begin {0<k<n}
| | C:= C(n-1,k-1)+C(n-1,k)
| end;
end;

Замечание. $$C_n^k$$ - число $$k$$ -элементных подмножеств $$n$$ -элементного множества. Соотношение $$C_n^k =C_{n-1}^{k-1}+C_{n-1}^k$$ получится, если мы фиксируем некоторый элемент $$n$$ -элементного множества и отдельно подсчитаем $$k$$ -элементные подмножества, включающие и не включающие этот элемент. Таблица значений $$C_n^k$$$$\begin{tabular}{ccccccccc} 1 \\ 1 1 \\ 1 2 1 \\ 1 3 3 1 \\ ......... \end{tabular}$$ называется треугольником Паскаля (того самого). В нем каждый элемент, кроме крайних единиц, равен сумме двух стоящих над ним.

Решение. Можно воспользоваться формулой$$C_n^k = \frac{n!}{k!\,(n-k)!}$$ Мы, однако, не будем этого делать, так как хотим продемонстрировать более общие приемы устранения рекурсии. Вместо этого составим таблицу значений функции $${C(n,k)}= C_n^k$$, заполняя ее для $$n = 0, 1, 2,\ldots$$, пока не дойдем до интересующего нас элемента.

8.1.2. Что можно сказать о времени работы рекурсивной и нерекурсивной версий в предыдущей задаче? Тот же вопрос о памяти.

Решение. Таблица занимает место порядка $$n^2$$, его можно сократить до $$n$$, если заметить, что для вычисления следующей строки треугольника Паскаля нужна только предыдущая. Время работы остается порядка $$n^2$$. Рекурсивная программа требует существенно большего времени: вызов C(n,k) сводится к двум вызовам для C(n-1,..), т.е. - к четырем вызовам для C(n-2,..) и так далее. Таким образом, время оказывается экспоненциальным (порядка $$2^n$$ ). Используемая рекурсивной версией память пропорциональна $$n$$ - умножаем глубину рекурсии ( $$n$$ ) на количество памяти, используемое одним экземпляром процедуры (константа).

Кардинальный выигрыш во времени при переходе от рекурсивной версии к нерекурсивной связан с тем, что в рекурсивном варианте одни и те же вычисления происходят много раз. Например, вызов C(5,3) в конечном счете порождает два вызова C(3,2):$$\def\n#1{\hbox to 0pt{\hss#1\hss}} \begin{array}{ccccccccc} {C(5,3)} \\ \swarrow \searrow \\ {C(4,2)} {C(4,3)} \\ \swarrow \searrow \swarrow \searrow \\ {C(3,1)} {C(3,2)} {C(3,3)} \end{array}$$

Заполняя таблицу, мы каждую клетку заполняем только однажды - отсюда и экономия. Этот прием называется динамическим программированием, и применим в тех случаях, когда объем хранимой в таблице информации оказывается не слишком большим.

8.1.3. Порассуждать на ту же тему на примере рекурсивной и (простейшей) нерекурсивной программ для вычисления чисел Фибоначчи, заданных соотношением$$\Phi_1=\Phi_2=1;\quad\Phi_n=\Phi_{n-1}+\Phi_{n-2}\ (n>2).$$

8.1.4. Дан выпуклый $$n$$ -угольник (заданный координатами своих вершин в порядке обхода). Его разрезают на треугольники диагоналями, для чего необходимо $$n-2$$ диагонали (это можно доказать индукцией по $$n$$ ). Стоимостью разрезания назовем сумму длин всех использованных диагоналей. Найти минимальную стоимость разрезания. Число действий должно быть ограничено некоторым многочленом от $$n$$. (Перебор не подходит, так как число вариантов не ограничено многочленом.)

Решение. Будем считать, что вершины пронумерованы от $$1$$ до $$n$$ и идут по часовой стрелке. Пусть $$k$$, $$l$$ - номера вершин, причем $$l>k$$. Через $$A(k,l)$$ обозначим многоугольник, отрезаемый от нашего хордой $$k$$ - $$l$$. (Эта хорда разрезает многоугольник на два, один из которых включает сторону $$1$$ - $$n$$ ; через $$A(k,l)$$ мы обозначаем другой.) Исходный многоугольник естественно обозначить $$A(1,n)$$. При $$l=k+1$$ получается "двуугольник" с совпадающими сторонами.$$\setlength{\unitlength}{6mm} \begin{picture}(10,6.5)(0,0.3) \put(3,1){\circle*{0.1}} \put(3,1){\line(1,0){2}} \put(5,1){\circle*{0.1}} \put(5,1){\line(2,1){2}} \put(7,2){\circle*{0.1}} \put(7,2){\line(1,1){1}} \put(8,3){\circle*{0.1}} \put(8,3){\line(0,1){1}} \put(8,4){\circle*{0.1}} \put(8,4){\line(-1,2){1}} \put(7,6){\circle*{0.1}} \put(7,6){\line(-1,0){2}} \put(5,6){\circle*{0.1}} \put(5,6){\line(-2,-1){2}} \put(3,5){\circle*{0.1}} \put(3,5){\line(-1,-2){1}} \put(2,3){\circle*{0.1}} \put(2,3){\line(1,-2){1}} % \put(2,3){\line(1,0){6}} % \put(2,0){\makebox(1,1){1}} \put(1,2.5){\makebox(1,1){k}} \put(8,2.5){\makebox(1,1){l}} \put(5,0){\makebox(1,1){n}} % \put(5,4){\makebox(1,1){A(k,l)}} \end{picture}$$ Через $$a(k,l)$$ обозначим стоимость разрезания многоугольника $$A(k,l)$$ диагоналями на треугольники. Напишем рекуррентную формулу для $$a(k,l)$$. При $$l=k+1$$ получается двуугольник, и мы полагаем $$a(k,l)=0$$. При $$l=k+2$$ получается треугольник, и в этом случае также $$a(k,l)=0$$. Пусть $$l>k+2$$.$$\setlength{\unitlength}{6mm} \begin{picture}(10,5) \put(8,1){\circle*{0.1}} \put(8,1){\line(0,1){1}} \put(8,2){\circle*{0.1}} \put(8,2){\line(-1,2){1}} \put(7,4){\circle*{0.1}} \put(7,4){\line(-1,0){2}} \put(5,4){\circle*{0.1}} \put(5,4){\line(-2,-1){2}} \put(3,3){\circle*{0.1}} \put(3,3){\line(-1,-2){1}} \put(2,1){\circle*{0.1}} % \put(2,1){\line(1,0){6}} % \put(1,0.5){\makebox(1,1){k}} \put(8,0.5){\makebox(1,1){l}} % \put(4.5,4){\makebox(1,1){i}} \put(2,1){\line(1,1){3}} \put(8,1){\line(-1,1){3}} \end{picture}$$ Хорда $$k$$ - $$l$$ является стороной многоугольника $$A(k,l)$$ и, следовательно, стороной одного из треугольников, на которые он разрезан. Противоположной вершиной $$i$$ этого треугольника может быть любая из вершин $$k+1,\ldots,l-1$$, и минимальная стоимость разрезания может быть вычислена как$$min\{\hbox{(длина хорды k-i)} +\hbox{(длина хорды i-l)}+a(k,i)+a(i,l)\}$$ по всем $$i=k+1,\ldots,l-1$$. При этом надо учесть, что при $$q=p+1$$ хорда $$p$$ - $$q$$ - не хорда, а сторона, и ее длину надо считать равной $$0$$ (по стороне разрез не проводится).

Составив таблицу для $$a(k,l)$$ и заполняя ее в порядке возрастания числа вершин (равного $$l-k+1$$ ), мы получаем программу, использующую память порядка $$n^2$$ и время порядка $$n^3$$ (однократное применение рекуррентной формулы требует выбора минимума из не более чем $$n$$ чисел).

8.1.5. Матрицей размера $$m\times n$$ называется прямоугольная таблица из $$m$$ строк и $$n$$ столбцов, заполненная числами. Матрицу размера $$m\times n$$ можно умножить на матрицу размера $$n\times k$$ (ширина левого сомножителя должна равняться высоте правого), и получается матрица размером $$m\times k$$. Ценой такого умножения будем считать произведение $$mnk$$ (таково число умножений, которые нужно выполнить при стандартном способе умножения - но сейчас это нам не важно). Умножение матриц ассоциативно, поэтому произведение $$s$$ матриц можно вычислять в разном порядке. Для каждого порядка подсчитаем суммарную цену всех матричных умножений. Найти минимальную цену вычисления произведения, если известны размеры всех матриц. Число действий должно быть ограничено многочленом от числа матриц.

Пример. Матрицы размером $$2\times3$$, $$3\times4$$, $$4\times5$$ можно перемножать двумя способами. В первом цена равна $$2\cdot3\cdot4 + 2\cdot4\cdot5 = 24 + 40 = 64$$, во втором цена равна $$3\cdot4\cdot5 + 2\cdot3\cdot5 = 90$$.

Решение. Представим себе, что первая матрица написана на отрезке $$[0,1]$$, вторая - на отрезке $$[1,2], \ldots$$, $$s$$ -ая - на отрезке $$[s-1,s]$$. Матрицы на отрезках $$[i-1,i]$$ и $$[i,i+1]$$ имеют общий размер, позволяющий их перемножить. Обозначим его через $$d[i]$$. Таким образом, исходным данным в задаче является массив $$d[0]\ldots d[s]$$.

Через $$a(i,j)$$ обозначим минимальную цену вычисления произведения матриц на участке $$[i,j]$$ (при $$0\le i<j\le s$$ ). Искомая величина равна $$a(0,s)$$. Величины $$a(i,i+1)$$ равны нулю (матрица одна и перемножать ничего не надо). Рекуррентная формула будет такой:$$a(i,j) = min\{a(i,k)+ a(k,j) + d[i]d[k]d[j]}$$ где минимум берется по всем возможных местам последнего умножения, то есть по всем $$k=i+1,\ldots,j-1$$. В самом деле, произведение матриц на отрезке $$[i,k]$$ есть матрица размера $$d[i]d[k]$$, произведение матриц на отрезке $$[k,j]$$ имеет размер $$d[k]d[j]$$, и цена вычисления их произведения равна $$d[i]d[k]d[j]$$.

Замечание. Две последние задачи похожи. Это сходство станет яснее, если написать матрицы-множители на сторонах $$1-2$$, $$2-3, \ldots, (s-1)-s$$ многоугольника, а на каждой хорде $$i-j$$ написать произведение всех матриц, стягиваемых этой хордой.

8.1.6. Железная дорога с односторонним движением имеет $$n$$ станций. Известны цены билетов от $$i$$ -ой станции до $$j$$ -ой (при $$i < j$$ - в обратную сторону проезда нет). Найти минимальную стоимость проезда от начала до конца (с учетом возможной экономии за счет пересадок).

8.1.7. Задано конечное множество с бинарной операцией (вообще говоря, не коммутативной и даже не ассоциативной). Имеется $$n$$ элементов $$a_1,\ldots,a_n$$ этого множества и еще один элемент $$x$$. Проверить, можно ли так расставить скобки в произведении $$a_1\times\ldots\times a_n$$, чтобы в результате получился $$x$$. Число операций должно не превосходить $$Cn^3$$ для некоторой константы $$C$$ (зависящей от числа элементов в выбранном конечном множестве).

Решение. Заполняем таблицу, в которой для каждого участка $$a_i\ldots a_j$$ нашего произведения хранится список всех возможных его значений (при разной расстановке скобок).

По существу этот же прием применяется в полиномиальном алгоритме проверки принадлежности слова произвольному контекстно-свободному языку (см. лекцию 15).

Следующая задача (задача о рюкзаке) уже упоминалась в лекции 3.

8.1.8. Имеется $$n$$ положительных целых чисел $$x_1,\ldots, x_n$$ и число $$N$$. Выяснить, можно ли получить $$N$$, складывая некоторые из чисел $$x_1,\ldots,x_n$$. Число действий должно быть порядка $$Nn$$.

Указание. После $$i$$ шагов хранится множество тех чисел на отрезке $$0\ldots N$$, которые представимы в виде суммы некоторых из $$x_1\ldots x_i$$.

Замечание. Мы видели, что замена рекурсивной программы на заполнение таблицы значений иногда позволяет уменьшить число действий. Примерно того же эффекта можно добиться иначе: оставить программу рекурсивной, но в ходе вычислений запоминать уже вычисленные значения, а перед очередным вычислением проверять, нет ли уже готового значения.

8.2. Стек отложенных заданий

Другой прием устранения рекурсии продемонстрируем на примере задачи о ханойских башнях.

8.2.1. Написать нерекурсивную программу для нахождения последовательности перемещений колец в задаче о ханойских башнях.

Решение. Вспомним рекурсивную программу, перекладывающую i верхних колец с m на n:

procedure move(i,m,n: integer);
| var s: integer;
begin
| if i = 1 then begin
| | writeln ('сделать ход ', m, '->', n);
| end else begin
| | s:=6-m-n; {s - третий стержень: сумма номеров равна 6}
| | move (i-1, m, s);
| | writeln ('сделать ход ', m, '->', n);
| | move (i-1, s, n);
| end;
end;

Видно, что задача "переложить i верхних дисков с m -го стержня на n -ый" сводится к трем задачам того же типа: двум задачам с i-1 дисками и к одной задаче с единственным диском. Занимаясь этими задачами, важно не позабыть, что еще осталось сделать.

Для этой цели заведем стек отложенных заданий, элементами которого будут тройки $$\langle{i},{m},{n}\rangle$$. Каждая такая тройка интерпретируется как заказ "переложить i верхних дисков с m -го стержня на n -ый". Заказы упорядочены в соответствии с требуемым порядком их выполнения: самый срочный - вершина стека. Получаем такую программу:

procedure move(i,m,n: integer);
begin
| сделать стек заказов пустым
| положить в стек тройку <i,m,n>
| {инвариант: осталось выполнить заказы в стеке}
| while стек непуст do begin
| | удалить верхний элемент, переложив его в <j,p,q>
| | if j = 1 then begin
| | | writeln ('сделать ход', p, '->', q);
| | end else begin
| | | s:=6-p-q;
| | |      {s - третий стержень: сумма номеров равна 6}
| | | положить в стек тройки <j-1,s,q>, <1,p,q>, <j-1,p,s>
| | end;
| end;
end;

(Заметим, что первой в стек кладется тройка, которую надо выполнять последней.) Стек троек может быть реализован как три отдельных стека. (Кроме того, в паскале есть специальный тип, называемый "запись" ( record ), который может быть применен.)

8.2.2. (Сообщил А.К.Звонкин со ссылкой на Анджея Лисовского.) Для задачи о ханойских башнях есть и другие нерекурсивные алгоритмы. Вот один из них: простаивающим стержнем (не тем, с которого переносят, и не тем, на который переносят) должны быть все стержни по очереди. Другое правило: поочередно перемещать наименьшее кольцо и не наименьшее кольцо, причем наименьшее - по кругу.

8.2.3. Использовать замену рекурсии стеком отложенных заданий в рекурсивной программе печати десятичной записи целого числа.

Решение. Цифры добываются с конца и закладываются в стек, а затем печатаются в обратном порядке.

8.2.4. Написать нерекурсивную программу, печатающую все вершины двоичного дерева.

Решение. В этом случае стек отложенных заданий будет содержать заказы двух сортов: "напечатать данную вершину" и "напечатать все вершины поддерева с данным корнем" (при этом nil считается корнем пустого дерева). Таким образом, элемент стека есть пара: $$\langle$$ тип заказа, номер вершины $$\rangle$$.

Вынимая элемент из стека, мы либо сразу исполняем его (если это заказ первого типа), либо помещаем в стек три порожденных им заказа - в одном из шести возможных порядков.

8.2.5. Что изменится, если требуется не печатать вершины двоичного дерева, а подсчитать их количество?

Решение. Печатание вершины следует заменить прибавлением единицы к счетчику. Другими словами, инвариант таков: (общее число вершин=счетчик+сумма чисел вершин в поддеревьях, корни которых лежат в стеке).

8.2.6. Для некоторых из шести возможных порядков возможны упрощения, делающие ненужным хранение в стеке элементов двух видов. Указать некоторые из них.

Решение. Если требуемый порядок таков:$$\begin{center} корень, левое поддерево, правое поддерево, \end{center}$$ то заказ на печатание корня можно не закладывать в стек, а выполнять сразу.

Несколько более сложная конструкция применима для порядка$$\begin{center} левое поддерево, корень, правое поддерево. \end{center}$$ В этом случае все заказы в стеке, кроме самого первого (напечатать поддерево) делятся на пары:$$\begin{center} напечатать вершину x, напечатать "правое поддерево" x \end{center}$$ (= поддерево с корнем в правом сыне x ). Объединив эти пары в заказы специального вида и введя переменную для отдельного хранения первого заказа, мы обойдемся стеком однотипных заказов.

То же самое, разумеется, верно, если поменять местами левое и правое - получается еще два порядка.

Замечание. Другую программу печати всех вершин дерева можно построить на основе программы обхода дерева, разобранной в лекции 3. Там используется команда "вниз". Поскольку теперешнее представление дерева с помощью массивов l и r не позволяет найти предка заданной вершины, придется хранить список всех вершин на пути от корня к текущей вершине. Смотри также лекцию 9

8.2.7. Написать нерекурсивный вариант программы быстрой сортировки (см. лекцию 7). Как обойтись стеком, глубина которого ограничена $$C\log n$$, где $$n$$ - число сортируемых элементов?

Решение. В стек кладутся пары $$\langle i,j\rangle$$, интерпретируемые как отложенные задания на сортировку соответствующих участков массива. Все эти заказы не пересекаются, поэтому размер стека не может превысить $$n$$. Чтобы ограничиться стеком логарифмической глубины, будем придерживаться такого правила: глубже в стек помещать больший из возникающих двух заказов. Пусть $$f(n)$$ - максимальная глубина стека, которая может встретиться при сортировке массива из не более чем $$n$$ элементов таким способом. Оценим $$f(n)$$ сверху таким способом: после разбиения массива на два участка мы сначала сортируем более короткий (храня в стеке более длинный про запас), при этом глубина стека не больше $$f(n/2)+1$$, затем сортируем более длинный, так что$$f(n) \le max (f(n/2)+1, f(n-1)),$$ откуда очевидной индукцией получаем $$f(n)=O(\log n)$$.

8.3. Более сложные случаи рекурсии

Пусть функция $$f$$ с натуральными аргументами и значениями определена рекурсивно условиями$$\begin{align*} f(0)=a, \\ f(x)=h(x, f(l(x))) \quad (x>0) \end{align*}$$ где $$a$$ - некоторое число, а $$h$$ и $$l$$ - известные функции. Другими словами, значение функции $$f$$ в точке $$x$$ выражается через значение $$f$$ в точке $$l(x)$$. При этом предполагается, что для любого $$x$$ в последовательности$$x, l(x), l(l(x)),\ldots$$ рано или поздно встретится $$0$$.

Если дополнительно известно, что $$l(x) < x$$ для всех $$x$$, то вычисление $$f$$ не представляет труда: вычисляем последовательно $$f(0), f(1),\allowbreak f(2),\ldots$$

8.3.1. Написать нерекурсивную программу вычисления $$f$$ для общего случая.

Решение. Для вычисления $$f(x)$$ вычисляем последовательность$$l(x), l(l(x)), l(l(l(x))), \ldots$$ до появления нуля и запоминаем ее, а затем вычисляем значения $$f$$ в точках этой последовательности, идя справа налево.

Еще более сложный случай из следующей задачи вряд ли встретится на практике (а если и встретится, то проще рекурсию не устранять, а оставить). Но тем не менее: пусть функция $$f$$ с натуральными аргументами и значениями определяется соотношениями$$\begin{align*} f(0)=a, \\ f(x)=h(x, f(l(x)), f(r(x))) \quad (x>0), \end{align*}$$ где $$a$$ - некоторое число, а $$l$$, $$r$$ и $$h$$ - известные функции. Предполагается, что если взять произвольное число и начать применять к нему функции $$l$$ и $$r$$ в произвольном порядке, то рано или поздно получится $$0$$.

8.3.2. Написать нерекурсивную программу вычисления $$f$$.

Решение. Можно было бы сначала построить дерево, у которого в корне находится $$x$$, а в сыновьях вершины $$i$$ стоят $$l(i)$$ и $$r(i)$$ - если только $$i$$ не равно нулю. Затем вычислять значения функции, идя от листьев к корню. Однако есть и другой способ.

Обратной польской записью (или постфиксной записью ) выражения называют запись, где знак функции стоит после всех ее аргументов, а скобки не используются. Вот несколько примеров:$$\renewcommand{\arraystretch}{1.2} \begin{array}{llllllll} \strut{}f(2) 2f \\ \strut{}f(g(2)) 2gf \\ \strut{}s(2,t(7)) 27ts \\ \strut{}s(2, u(2, s(5,3))\qquad 2253sus \end{array}$$ Постфиксная запись выражения позволяет удобно вычислять его с помощью $$\emph{стекового калькулятора}$$. Этот калькулятор имеет стек, который мы будем представлять себе расположенным горизонтально (числа вынимаются и кладутся справа), и клавиши - числовые и функциональные. При нажатии на клавишу с числом это число кладется в стек. При нажатии на функциональную клавишу соответствующая функция применяется к нескольким аргументам у вершины стека. Например, если в стеке были числа$$2\ 3\ 4\ 5\ 6$$ и нажата функциональная клавиша $$s$$, соответствующая функции от двух аргументов, то в стеке окажутся числа$$2\ 3\ 4\ s(5,6).$$

Перейдем теперь к нашей задаче. В процессе вычисления значения функции $$f$$ мы будем работать со стеком чисел, а также с последовательностью чисел и символов f, l, r, h, которую мы будем интерпретировать как последовательность нажатий клавиш на стековом калькуляторе. Инвариант такой:$$\begin{quote} если стек чисел представляет собой текущее состояние стекового калькулятора, то после нажатия всех клавиш последовательности в стеке останется единственное число, и оно будет искомым ответом. \end{quote}$$ Пусть нам требуется вычислить значение $$f(x)$$. Тогда вначале мы помещаем в стек число $$x$$, а последовательность содержит единственный символ f. (При этом инвариант соблюдается.) Далее с последовательностью и стеком выполняются такие преобразования:$${\hss \begin{array}{llll} {старый} {старая} {новый} {новая} \\[-.5ex] {стек} {последовательность}{стек} {последовательность} \\[1ex] % X\ x\ P X\ x P\\ X\ x {l}\ P X\ l(x) P\\ X\ x {r}\ P X\ r(x) P \\ X\ x\ y\ z {h}\ P X\ h(x,y,z) P \\ X\ 0 {f}\ P X\ a P \\ X\ x {f}\ P X x\ x\ {l}\ {f}\ x\ {r}\ {f}\ {h}\ P \end{array}\hss}$$ Здесь $$x$$, $$y$$, $$z$$ - числа, $$X$$ - последовательность чисел, $$P$$ - последовательность чисел и символов f, l, r, h. В последней строке предполагается, что $$x\ne 0$$. Эта строка соответствует равенству$$f(x) = h(x, f(l(x)), f(r(x))).$$ Преобразования выполняются, пока последовательность не станет пуста. В этот момент в стеке окажется единственное число, которое и будет ответом.

Замечание. Последовательность по существу представляет собой стек отложенных заданий (вершина которого находится слева).