Недавно занимаясь интересной задачкой по написанию службы индексации, столкнулся с интересным вопросом: " А как бы нам поиск заморозить и продолжить после (через минуту, завтра, через месяц)?". Да конечно можно сказать - что у тебя за машина такая, вот у меня дерево каталогов обходит за 3 минуты... Согласен, это не вопрос. Но когда нужно не просто обходить, а еще и выполнять некоторые действия с файлами, да если их на диске 150 тыс. и больше, да еще не загружая процессор на 100%, то время может затянуться до нескольких суток, вот тогда - как быть?

Вот этой теме я и решил посвятить статью. Как оказалось, в Интернете информации по этой теме нет. Либо это слишком просто, либо никому не нужно. Как выяснилось - ни то ни другое.

Со стандартной процедурой обхода дерева сталкивались очень многие:

procedure FileFind(path:string);
var
 sr:Tsearchrec;// Описываем структуру, которую использует для поиска система
 found:integer; // найдено или нет
begin
 found:=FindFirst(path + '\*.*', FaAnyfile, sr); {по команде FindFirst программа создает структуру следующего типа
 TsearchRec = record
 Time: Integer; // время создания
 Size: Integer; // его размер
 Attr: Integer;// атрибуты
 Name:TFileName // = TString; собственно имя файла
 ExcludeAttr: Integer; найденные атрибуты
 FindHandle: THandle; // !!! указатель на структуру поиска, которую создает система, а не наша программа. Вот для
чего обязательно в конце поиска указывать FindClose - это высвобождает память
 FindData: TWin32FindData; // собственно эта структура
 end;}
 while (found = 0) do // если хоть чтото найдено
 begin
 if (sr.name <> '.') and (sr.name <> '..') then
 begin // если это не указатели на корневые каталоги, то чтото нашли
 if (sr.attr and FaDirectory) = FaDirectory then
 // ага вот поддиректория - вызываем себя рекурсивно, но с поиском уже в этой директории
 FileFind(path+'\'+sr.name)
 else
 begin
 // вот тут выполняем что-то с найденным файлом
 ......
 mainform.memo1.lines.append(path+'\'+sr.name);
 end
 end;
 found:=findnext(sr); // есть ли еще файлы или каталоги
 end;
 FindClose(sr); // поиск закончен - нужно освободить память
end;

Казалось бы сохранить состояние процедуры поиска  просто - достаточно сохранить структуру - sr:TSearchRec, а потом ее восстановить и поиск продолжится.

Первое - Однако при даже невнимательном рассмотрении процедуры видно, что она вызывает сама себя - налицо обычная рекурсия. Получается что надо сохранять не одну SearchRec, а несколько. Полдела - сохранить, но ведь нужно и восстановить эти рекурсивные вызовы. Т.е при продолжении поиска построить этакую матрешку из процедур поиска, а потом уже его продолжать.

Второе - сама SearchRec. Казалось бы она находится в области данных нашей программы. Да это наполовину верно. Верхняя половина SearchRec действительно лежит в области данных нашей программы и делать мы с ней можем что душе угодно. Это переменные  Time: Integer;  Size: Integer;  Attr: Integer; Name:TFileName; ExcludeAttr: Integer;. А вот вторая ее половина (FindHandle: THandle; FindData: TWin32FindData;) нам не принадлежит - ее генерирует система по нашему запросу FindFirst(.....) и уничтожает по команде FindClose(....).

Третий казалось бы простой вопрос - SearchRec.Name имеет тип TFileName=TString. Какую длину он имеет? Одни скажут 255, другие 65535. Согласен, и то и другое верно, но не тут. Длина действительно 255. А вот с типом нас нагло обманули. Реально в памяти хранится не TString [255], а PChar {Имя файла}+PChar{его расширение}. Для нас с вами это преобразуется в обычную строку при обращении, и до столкновения с данной ситуацией я свято верил что там TString[255]. Кстати в чем разница между Богом и билом гейтсом? Бог не считает себя билом гейтсом ...

Итак, попробуем решить эти проблемы. Проше всего разбор начать в обратном порядке... (не подумайте превратно, я знаю через что рвут гланды в России...)

Третий вопрос - как сохранить , а потом восстановить SearchRec, если он состоит непонятно из чего. А давайте сделаем свой SearchRec, как нам нужно. А именно так:

type // этот тип почти полностью переписывается со стандартного TSearchRec
TMysearchRec = record
 Time: Integer; 
 Size: Integer; 
 Attr: Integer;
 Name: string[250];//вот тут обрабатывалось неверно при типе TString, как длина ?
 ExcludeAttr: Integer; 
 FindHandle: THandle; // в принципе не нужен, но не будем сильно пугать читателей
// сильными отличиями, да и бог с ними - с восемью байтами
 FindData: TWin32FindData;
end;

Но нам еще требуется сохранять несколько переменных самой программы, а именно Found - найдено чтото или нет и Path - с каким параметром нас вызывали, поэтому на основе этого типа делаем еще один:

TMyRec_Sea = record
 Rec_Sea:TMySearchRec; // наша структура поиска
 path:String[250]; // откуда начинали
 found:integer; // при остановке нашли чтото или нет
end;

Второй вопрос после первого решается не очень красиво, но довольно легко. Да система генерит структуру: FindHandle: THandle; FindData: TWin32FindData. FindData - собственно сама структура и FindHandle - указатель на нее. Пусть система генерит что угодно, если с умом, то можно обойти и это. Многие ли помнят такое INT21h->INT 13H. Думаю вспомнили. При восстановлении поиска дадим команду FindFirst, а потом подменим FindData и остальные поля, не трогая FindHandle, иначе сразу после окончания поиска (!!! ???) получим обращение к недопустимому адресу и вылет программы.

......
// создаем запись для поиска
FindFirst(path+'\'+mask, FaAnyfile, sr);
delfile:=false; found:=buffer.found;
// загоняем в SEARCHREC все кроме FINDHANDLE (он создается системой)
sr.Time:=buffer.rec_sea.Time; sr.Size:=buffer.rec_sea.Size;
sr.Attr:=buffer.rec_sea.Attr; sr.Name:=buffer.rec_sea.Name;
sr.ExcludeAttr:=buffer.rec_sea.ExcludeAttr; sr.FindData:=buffer.rec_sea.FindData;

Первый вопрос - как же сохранять состояние процедуры при рекурсии?. Давайте сохранять SearchRec в файл и используем принцип магазина (не продуктового, а от автомата калашникова) - последний вошел - первый вышел. Вот примерная структура процедуры при выполняющемся поиске (при нескольких рекурсивных вызовах):

Findfile('c:\')
FindFile('c:\Docs')
FindFile(c:\Docs\Delphi')
......

При получении сигнала на остановку процедуры начинают писать в файл в обратном порядке, а именно - FindFile(c:\Docs\Delphi'),Findfile('c:\Docs'),Findfile('c:\'). Примерно так:

Findfile('c:\')------------------------------------+
Findfile('c:\Docs')---------------------+ !
FindFile(c:\Docs\Delphi') ---+ ! !
v v v
[файл сохранений состояния] [rec1] [rec2] [rec3]

Ну а когда нужно восстановить состояние поиска смотрим не пустой ли файл сохранений, и читаем записи начиная с конца, после прочтения их удаляем. Таким образом поиск по дереву автоматом развернется на столько рекурсивных вызовов, сколько надо, и продолжит поиск.

Да, едва не забыл, как мы узнаем что надо приостановить поиск? Давайте заведем глобальную переменную Process. Как она станет False - пора останавливаться.

Ниже приведена часть модуля с использованием описанных алгоритмов.

unit unit1;
......
var
 ....
 process:boolean; // вот глобальная переменная она и управляет поиском true - можно
 // false - стоп с запоминанием состояния
 .....
 
procedure FileFind(path:string;resume:boolean);
{ сканирует диск (вернее дерево каталогов) при вызове PATH - начальный каталог для обхода
RESUME - если TRUE - то продолжать сохраненный поиск (тогда значение PATH игнорируется,
кроме случая, когда не обнаружен файл сохранения поиска)
при установке глобальной переменной PROCESS в false останавливается
с запоминанием предыдущего состояния,внимание - РЕКУРСИЯ !!! }
const
 save_ext='.rec'; // в каталоге приложения создает SAVE файл с именем приложения и указанным расширением
 mask='*.*';
type
 TMysearchRec = record
 // пришлось написать свой тип SEARCHREC с NAME фиксированной длины
 Time: Integer; Size: Integer; Attr: Integer;
 Name: string[250]; //вот тут обрабатывалось неверно при типе TString, как длина ?
 ExcludeAttr: Integer; FindHandle: THandle; FindData: TWin32FindData;
end;
TMyRec_Sea = record
Rec_Sea:TMySearchRec;
path:String[250]; found:integer; delfile:boolean;
end;
var
 sr:TSearchRec;
 RecFile:TFileStream;
 buffer:tMyRec_Sea;
 sp,save_file_name:string; found:integer; delfile:Boolean;
 delfile:Boolean;
begin
 if resume then
 // возобновить поиск или начать новый
 begin
 save_file_name:=ChangeFileExt(ParamStr(0),save_ext);
 if FileExists(save_file_name) then
 begin
 RecFile:=TFileStream.Create(save_file_name,fmOpenReadWrite);
 // чистим буфер, не важно, необходимо для отладки
 fillchar(buffer,sizeof(buffer),#0);
 // читаем сохранение начиная с конца файла
 RecFile.Seek(-1*sizeof(buffer),soFromEnd);
 RecFile.Readbuffer(buffer,sizeof(buffer));
 path:=buffer.path; sp:=path;
 // создаем запись для поиска
 FindFirst(path+'\'+mask, FaAnyfile, sr);
 delfile:=false; found:=buffer.found;
 // загоняем в SEARCHREC все кроме FINDHANDLE (он создается системой)
 sr.Time:=buffer.rec_sea.Time; sr.Size:=buffer.rec_sea.Size;
 sr.Attr:=buffer.rec_sea.Attr; sr.Name:=buffer.rec_sea.Name;
 sr.ExcludeAttr:=buffer.rec_sea.ExcludeAttr; sr.FindData:=buffer.rec_sea.FindData;
 // режем кусок уже прочитали свои данные - другим они не понадобятся
 RecFile.Seek(-1*sizeof(buffer),soFromEnd); recfile.Size:=RecFile.Position;
 // дорезались - дозагружаться неоткуда
 if RecFile.Size=0 then delfile:=true;
 RecFile.Free;
 if delfile then sysutils.DeleteFile(save_file_name);
 end
 else
 // нет сохраненных поисков
 begin
 // начинаем новый
 sp:=path; resume:=false;
 // тут исправляется разница между C:\ и C:\DOCS - убираем последний слэш
 if sp[length(sp)]='\' then sp:=copy(sp,1,length(sp)-1);
 found:=FindFirst(sp + '\'+mask, FaAnyfile, sr);
 end
 end
 else
 begin
 // новый поиск - пристрелить старые записи
 save_file_name:=ChangeFileExt(ParamStr(0),save_ext);
 if fileExists(save_file_name) then sysutils.DeleteFile(save_file_name) ;
 sp:=path;
 if sp[length(sp)]='\' then sp:=copy(sp,1,length(sp)-1);
 found:=FindFirst(sp + '\'+mask, FaAnyfile, sr);
 end;
 // закончена подготовка - вперед поиск
 while (found = 0) and process do
 begin
 application.ProcessMessages;
 if (sr.name <> '.') and (sr.name <> '..') then
 begin
 if (sr.attr and FaDirectory) = FaDirectory
 then
 begin
 FileFind(sp+'\'+sr.name,resume);
 end
 else
 begin
 // ну тут разные действия с найденым файлом
 mainform.label1.caption:=('начат разбор '+sp+'\'+sr.name) ;
 ................
 // закончили действия
 
 Application.ProcessMessages; // а вот без этого мы никогда не узнаем что пора поиск
 // закончить
 end;
 end;
 if process then found:=findnext(sr);
 end;
 if not process then
 // получили сигнал на остановку сканирования нужно запомнить состояние
 begin
 save_file_name:=ChangeFileExt(ParamStr(0),save_ext);
 if not FileExists(save_file_name) then RecFile:=TFileStream.Create(save_file_name,fmCreate)
 else RecFile:=TFileStream.Create(save_file_name,fmOpenReadWrite);
 RecFile.Seek(0,soFromEnd);
 // заполняем буфер текущим состоянием
 buffer.rec_sea.Time :=sr.Time; buffer.rec_sea.Size :=sr.Size ;
 buffer.rec_sea.Attr :=sr.Attr ; buffer.rec_sea.Name :=sr.Name ;
 buffer.rec_sea.ExcludeAttr :=sr.ExcludeAttr ; buffer.rec_sea.FindHandle :=sr.FindHandle ;
 buffer.rec_sea.FindData :=sr.FindData ; buffer.path:=sp; buffer.found:=found;
 RecFile.Writebuffer(buffer,sizeof(buffer));
 RecFile.Free;
 end;
 Application.ProcessMessages;
 sysutils.FindClose(sr);
end;

Данная статья не претендует на оригинальность и призвана помочь в разработке своих программ.

Получить ссылку на материал