diff --git a/lab6/report/.gitignore b/lab6/report/.gitignore new file mode 100644 index 0000000..38887f8 --- /dev/null +++ b/lab6/report/.gitignore @@ -0,0 +1,6 @@ +* + +!**/ +!.gitignore +!report.tex +!img/**/*.png \ No newline at end of file diff --git a/lab6/report/img/optimal_tour.png b/lab6/report/img/optimal_tour.png new file mode 100644 index 0000000..15e5e95 Binary files /dev/null and b/lab6/report/img/optimal_tour.png differ diff --git a/lab6/report/report.tex b/lab6/report/report.tex new file mode 100644 index 0000000..c5980c1 --- /dev/null +++ b/lab6/report/report.tex @@ -0,0 +1,395 @@ +\documentclass[a4paper, final]{article} +%\usepackage{literat} % Нормальные шрифты +\usepackage[14pt]{extsizes} % для того чтобы задать нестандартный 14-ый размер шрифта +\usepackage{tabularx} +\usepackage{booktabs} +\usepackage[T2A]{fontenc} +\usepackage[utf8]{inputenc} +\usepackage[russian]{babel} +\usepackage{amsmath} +\usepackage[left=25mm, top=20mm, right=20mm, bottom=20mm, footskip=10mm]{geometry} +\usepackage{ragged2e} %для растягивания по ширине +\usepackage{setspace} %для межстрочно го интервала +\usepackage{moreverb} %для работы с листингами +\usepackage{indentfirst} % для абзацного отступа +\usepackage{moreverb} %для печати в листинге исходного кода программ +\usepackage{pdfpages} %для вставки других pdf файлов +\usepackage{tikz} +\usepackage{graphicx} +\usepackage{afterpage} +\usepackage{longtable} +\usepackage{float} +\usepackage{xcolor} + + + + +% \usepackage[paper=A4,DIV=12]{typearea} +\usepackage{pdflscape} +% \usepackage{lscape} + +\usepackage{array} +\usepackage{multirow} + +\renewcommand\verbatimtabsize{4\relax} +\renewcommand\listingoffset{0.2em} %отступ от номеров строк в листинге +\renewcommand{\arraystretch}{1.4} % изменяю высоту строки в таблице +\usepackage[font=small, singlelinecheck=false, justification=centering, format=plain, labelsep=period]{caption} %для настройки заголовка таблицы +\usepackage{listings} %листинги +\usepackage{xcolor} % цвета +\usepackage{hyperref}% для гиперссылок +\usepackage{enumitem} %для перечислений + +\newcommand{\specialcell}[2][l]{\begin{tabular}[#1]{@{}l@{}}#2\end{tabular}} + + +\setlist[enumerate,itemize]{leftmargin=1.2cm} %отступ в перечислениях + +\hypersetup{colorlinks, + allcolors=[RGB]{010 090 200}} %красивые гиперссылки (не красные) + +% подгружаемые языки — подробнее в документации listings (это всё для листингов) +\lstloadlanguages{ SQL} +% включаем кириллицу и добавляем кое−какие опции +\lstset{tabsize=2, + breaklines, + basicstyle=\footnotesize, + columns=fullflexible, + flexiblecolumns, + numbers=left, + numberstyle={\footnotesize}, + keywordstyle=\color{blue}, + inputencoding=cp1251, + extendedchars=true +} +\lstdefinelanguage{MyC}{ + language=SQL, +% ndkeywordstyle=\color{darkgray}\bfseries, +% identifierstyle=\color{black}, +% morecomment=[n]{/**}{*/}, +% commentstyle=\color{blue}\ttfamily, +% stringstyle=\color{red}\ttfamily, +% morestring=[b]", +% showstringspaces=false, +% morecomment=[l][\color{gray}]{//}, + keepspaces=true, + escapechar=\%, + texcl=true +} + +\textheight=24cm % высота текста +\textwidth=16cm % ширина текста +\oddsidemargin=0pt % отступ от левого края +\topmargin=-1.5cm % отступ от верхнего края +\parindent=24pt % абзацный отступ +\parskip=5pt % интервал между абзацами +\tolerance=2000 % терпимость к "жидким" строкам +\flushbottom % выравнивание высоты страниц + + +% Настройка листингов +\lstset{ + language=python, + extendedchars=\true, + inputencoding=utf8, + keepspaces=true, + % captionpos=b, % подписи листингов снизу +} + +\begin{document} % начало документа + + + + % НАЧАЛО ТИТУЛЬНОГО ЛИСТА + \begin{center} + \hfill \break + \hfill \break + \normalsize{МИНИСТЕРСТВО НАУКИ И ВЫСШЕГО ОБРАЗОВАНИЯ РОССИЙСКОЙ ФЕДЕРАЦИИ\\ + федеральное государственное автономное образовательное учреждение высшего образования «Санкт-Петербургский политехнический университет Петра Великого»\\[10pt]} + \normalsize{Институт компьютерных наук и кибербезопасности}\\[10pt] + \normalsize{Высшая школа технологий искусственного интеллекта}\\[10pt] + \normalsize{Направление: 02.03.01 <<Математика и компьютерные науки>>}\\ + + \hfill \break + \hfill \break + \hfill \break + \hfill \break + \large{Лабораторная работа №6}\\ + \large{по дисциплине}\\ + \large{<<Генетические алгоритмы>>}\\ + \large{Вариант 18}\\ + + % \hfill \break + \hfill \break + \end{center} + + \small{ + \begin{tabular}{lrrl} + \!\!\!Студент, & \hspace{2cm} & & \\ + \!\!\!группы 5130201/20101 & \hspace{2cm} & \underline{\hspace{3cm}} &Тищенко А. А. \\\\ + \!\!\!Преподаватель & \hspace{2cm} & \underline{\hspace{3cm}} & Большаков А. А. \\\\ + &&\hspace{4cm} + \end{tabular} + \begin{flushright} + <<\underline{\hspace{1cm}}>>\underline{\hspace{2.5cm}} 2025г. + \end{flushright} + } + + \hfill \break + % \hfill \break + \begin{center} \small{Санкт-Петербург, 2025} \end{center} + \thispagestyle{empty} % выключаем отображение номера для этой страницы + + % КОНЕЦ ТИТУЛЬНОГО ЛИСТА + \newpage + + \tableofcontents + + \newpage + \section {Постановка задачи} + В данной работе были поставлены следующие задачи: + + \begin{itemize} + \item Реализовать с использованием муравьиных алгоритмов решение задачи коммивояжера по индивидуальному заданию согласно номеру варианта. + \item Представить графически найденное решение + \item Сравнить найденное решение с представленным в условии задачи оптимальным решением и результатами, полученными в лабораторной работе №3. + \end{itemize} + + \textbf{Индивидуальное задание вариант 18:} + + \textbf{Дано:} Эвклидовы координаты городов 38 городов в Джибути (см.~Приложение~А). Оптимальный тур представлен на Рис.~\ref{fig:optimal_tour}, его длина равна 6659. + + \begin{figure}[h!] + \centering + \includegraphics[width=0.5\linewidth]{img/optimal_tour.png} + \caption{Оптимальный тур для заданного набора данных} + \label{fig:optimal_tour} + \end{figure} + + + \newpage + \section{Теоретические сведения} + + \subsection{Общие сведения о муравьиных алгоритмах} + + Муравьиные алгоритмы (МА) относятся к метаэвристическим методам оптимизации и предназначены преимущественно для решения задач комбинаторной оптимизации, в частности задачи поиска оптимальных путей на графах. Основная идея таких алгоритмов основана на моделировании коллективного поведения реальных муравьёв, использующих феромонные следы для обмена информацией. + + Каждый агент, называемый \textit{искусственным муравьём}, поэтапно строит решение задачи, перемещаясь по графу и выбирая следующую вершину на основе вероятностного правила, учитывающего концентрацию феромона на дугах графа. Феромон отражает привлекательность соответствующих маршрутов: чем выше его концентрация на дуге, тем вероятнее выбор этой дуги муравьём. + + \subsection{Простой муравьиный алгоритм (SACO)} + + Для иллюстрации рассмотрим простой муравьиный алгоритм SACO (Simple Ant Colony Optimization). Пусть задан граф + \[ + G = (V, E), + \] + где $V$ — множество вершин, $E$ — множество рёбер. Каждой дуге $(i,j)$ сопоставлена величина феромона $\tau_{ij}$. + + В начальный момент концентрация феромона обычно принимается нулевой, однако для предотвращения зацикливания каждому ребру присваивается малое случайное начальное значение $\tau_{ij}^{(0)}$. + + Каждый муравей $k=1,\ldots,n_k$ помещается в стартовую вершину и начинает построение пути. Если муравей находится в вершине $i$, он выбирает следующую вершину $j \in N_i^k$ на основе вероятностного правила + \[ + p_{ij}^k(t) = \frac{\tau_{ij}^\alpha(t)}{\sum\limits_{l \in N_i^k} \tau_{il}^\alpha(t)}, + \] + где $\alpha$ — параметр, определяющий степень влияния феромона. + + При отсутствии допустимых переходов допускается возврат в предыдущую вершину, что приводит к появлению петель, которые впоследствии удаляются. + + После завершения построения полного пути $x_k(t)$ выполняется его оценка. Длина пути обозначается как $L_k(t)$ и равна числу пройденных дуг. + + \subsection{Обновление феромона} + + Каждый муравей откладывает феромон на рёбрах своего пути согласно правилу + \[ + \Delta \tau_{ij}^k(t) = + \begin{cases} + \frac{1}{L_k(t)}, &\text{если дуга } (i,j) \in x_k(t), \\ + 0, &\text{иначе}. + \end{cases} + \] + + Общее обновление феромона на дуге $(i,j)$: + \[ + \tau_{ij}(t+1) = \tau_{ij}(t) + \sum_{k=1}^{n_k} \Delta\tau_{ij}^k(t). + \] + + Чем короче путь, тем больше феромона откладывается на его рёбрах, что повышает вероятность выбора коротких маршрутов в последующих итерациях. + + \subsection{Испарение феромона} + + Чтобы предотвратить преждевременную сходимость алгоритма к локальным минимумам, применяется механизм \textit{искусственного испарения феромона}. На каждом шаге выполняется: + \[ + \tau_{ij}(t) = (1 - \rho)\,\tau_{ij}(t), + \] + где $\rho \in [0,1]$ — коэффициент испарения. Большие значения $\rho$ усиливают случайность поиска, малые — повышают устойчивость к изменениям. + + \subsection{Критерии остановки алгоритма} + + Муравьиные алгоритмы могут завершаться при выполнении одного из условий: + \begin{itemize} + \item достигнуто максимальное число итераций; + \item найдено решение приемлемого качества $f(x_k(t)) \leq \varepsilon$; + \item все муравьи начинают строить одинаковые маршруты, что говорит о стабилизации процесса. + \end{itemize} + + \subsection{Описание общего алгоритма} + + Алгоритм SACO можно представить в следующем виде: + + \begin{enumerate} + \item Инициализация феромона малыми случайными значениями $\tau_{ij}^{(0)}$. + \item Размещение всех муравьёв в начальной вершине. + \item Для каждой итерации: + \begin{enumerate} + \item Каждый муравей строит путь согласно вероятностному правилу выбора вершины. + \item Выполняется удаление петель. + \item Вычисляется длина пути $L_k(t)$. + \end{enumerate} + \item Выполняется испарение феромона. + \item Каждый муравей откладывает феромон на рёбрах своего пути. + \item Итерация продолжается до выполнения критерия остановки. + \end{enumerate} + + Муравьиные алгоритмы позволяют эффективно находить приближённые решения задач комбинаторной оптимизации, таких как задача коммивояжёра, что и является целью данной лабораторной работы. + + + + \newpage + \section{Особенности реализации} + + === Нужно обновить раздел === + + В рамках работы создана мини-библиотека \texttt{gen.py} для решения задачи коммивояжёра (TSP) генетическим алгоритмом с путевым представлением хромосом. Второй модуль + \texttt{expirements.py} организует серийные эксперименты (перебор параметров, + форматирование и сохранение результатов). + + \begin{itemize} + \item \textbf{Кодирование особей}: каждая хромосома представлена как перестановка городов (\texttt{Chromosome = list[int]}), где каждый элемент -- индекс города. Популяция -- список хромосом (\texttt{Population = list[Chromosome]}). Инициализация случайными перестановками без повторений: + \begin{itemize} + \item \texttt{initialize\_random\_population(pop\_size: int, cities: Cites) -> Population} + \end{itemize} + \item \textbf{Фитнесс-функция}: целевая функция принимает хромосому (маршрут) и возвращает скалярное значение фитнесса (длину пути). Для режима минимизации используется внутреннее преобразование при селекции (сдвиг и инверсия знака), что позволяет применять рулетку: + \begin{itemize} + \item \texttt{eval\_population(population: Population, fitness\_func: FitnessFn) -> Fitnesses} + \item Логика режима минимизации в \texttt{genetic\_algorithm(config: GARunConfig) -> GARunResult} + \end{itemize} + \item \textbf{Селекция (рулетка)}: вероятности нормируются после сдвига на минимальное значение в поколении (устойчиво к отрицательным фитнессам). Функция: + \texttt{reproduction(population: Population, fitnesses: Fitnesses) -> Population}. + \item \textbf{Кроссинговер}: реализованы специализированные операторы для перестановок: PMX (Partially Mapped Crossover), OX (Ordered Crossover) и CX (Cycle Crossover). Кроссинговер выполняется попарно по перемешанной популяции с вероятностью $p_c$. Функции: + \begin{itemize} + \item \texttt{partially\_mapped\_crossover\_fn(p1: Chromosome, p2: Chromosome) -> tuple[Chromosome, Chromosome]} + \item \texttt{ordered\_crossover\_fn(p1: Chromosome, p2: Chromosome) -> tuple[Chromosome, Chromosome]} + \item \texttt{cycle\_crossover\_fn(p1: Chromosome, p2: Chromosome) -> tuple[Chromosome, Chromosome]} + \item \texttt{crossover(population: Population, pc: float, crossover\_fn: CrossoverFn) -> Population} + \end{itemize} + \item \textbf{Мутация}: реализованы три типа мутаций для перестановок: обмен двух городов (swap), инверсия сегмента (inversion), вырезка и вставка города (insertion). Мутация применяется с вероятностью $p_m$. Функции: + \begin{itemize} + \item \texttt{swap\_mutation\_fn(chrom: Chromosome) -> Chromosome} + \item \texttt{inversion\_mutation\_fn(chrom: Chromosome) -> Chromosome} + \item \texttt{insertion\_mutation\_fn(chrom: Chromosome) -> Chromosome} + \item \texttt{mutation(population: Population, pm: float, mutation\_fn: MutationFn) -> Population} + \end{itemize} + + \item \textbf{Критерий остановки}: поддерживаются критерии по максимальному количеству поколений, повторению лучшего результата, достижению порогового значения фитнесса. Хранится история всех поколений. Проверка выполняется в функции: + + \texttt{genetic\_algorithm(config: GARunConfig) -> GARunResult}. + \item \textbf{Визуализация}: реализована отрисовка маршрутов обхода городов на плоскости с отображением лучшей особи поколения. Функции: + \begin{itemize} + \item \texttt{plot\_tour(cities: list[tuple[float, float]], tour: list[int], ax: Axes)} + \item \texttt{save\_generation(generation: Generation, history: list[Generation], config: GARunConfig)} + \item \texttt{plot\_fitness\_history(result: GARunResult, save\_path: str | None) -> None} + \end{itemize} + \item \textbf{Элитизм}: поддерживается перенос лучших особей без изменения в следующее поколение (\texttt{elitism} параметр). + \item \textbf{Измерение времени}: длительность вычислений возвращается в миллисекундах как часть \texttt{GARunResult.time\_ms}. + \item \textbf{Файловая организация}: результаты экспериментов сохраняются в структуре \texttt{experiments/N/} с таблицами результатов. Задействованные функции: + \begin{itemize} + \item \texttt{clear\_results\_directory(results\_dir: str) -> None} + \item Функции для проведения экспериментов в модуле \texttt{expirements.py} + \end{itemize} + \end{itemize} + + В модуле \texttt{expirements.py} задаются координаты городов и параметры экспериментов. + Серийные запуски и сохранение результатов реализованы для исследования влияния параметров ГА на качество решения задачи коммивояжёра. + + \newpage + \section{Результаты работы} + + === Нужно обновить раздел === + + На Рис.~\ref{fig:results} представлены результаты работы простого муравьиного алгоритма со следующими параметрами: + \begin{itemize} + \item $N = 500$ -- размер популяции. + \item $p_c = 0.9$ -- вероятность кроссинговера. + \item $p_m = 0.3$ -- вероятность мутации. + \item $2500$ -- максимальное количество поколений. + \item $3$ -- количество "элитных" особей, переносимых без изменения в следующее поколение. + \item Partially mapped crossover - кроссовер. + \item Inversion mutation - мутация + \end{itemize} + + На Рис.~\ref{fig:fitness_history} показан график изменения фитнесса по поколениям. Видно, что алгоритм постепенно сходится к минимально возможному значению фитнеса. Лучший маршрут был найден на поколнении №1896 (см. Рис.~\ref{fig:lastgen}). + + % \begin{figure}[h!] + % \centering + % \includegraphics[width=1\linewidth]{img/results/fitness_history.png} + % \caption{График изменения фитнесса по поколениям} + % \label{fig:fitness_history} + % \end{figure} + + \subsection{Сравнение с результатами лабораторной работы №3} + + === Нужно написать раздел, ниже представлена часть отчёта из лаб3, чтобы было с чем сравнить === + + Наилучшее найденное решение составило \textbf{6667.03} при параметрах $N=500$, $P_c=0.9$, $P_m=0.5$ за 1644 поколения. Это всего на \textbf{0.12\%} хуже оптимального значения 6659, что демонстрирует высокую эффективность алгоритма. Наихудшие результаты показала конфигурация с $N=10$, $P_c=0.7$, $P_m=0.3$ (лучший фитнес 6796.98), что на 2.07\% хуже оптимума. Малый размер популяции в 10 особей оказался недостаточным для стабильного поиска качественных решений — более половины конфигураций при $N=10$ вообще не нашли решение за 2500 поколений. + + Наиболее быстрая конфигурация — $N=10$, $P_c=0.7$, $P_m=0.5$ — нашла решение за \textbf{201 мс} (503 поколения). Однако качество решения при таких параметрах нестабильно. Среди конфигураций с большой популяцией лучшее время показала $N=500$, $P_c=0.5$, $P_m=0.2$ — \textbf{5232 мс} (341 поколение), что является оптимальным балансом скорости и качества для больших популяций. + + С ростом размера популяции наблюдается явное улучшение качества решений: при $N=10$ лучший результат 6762.97, при $N=500$ — 6667.03. Одновременно количество необходимых поколений снижается (с 503 до 341), но общее время выполнения растет линейно из-за увеличения числа особей в каждом поколении. Этот эффект объясняется тем, что большая популяция обеспечивает большее генетическое разнообразие, позволяя алгоритму быстрее находить оптимальные решения. + + Что касается вероятности кроссовера, средние значения $P_c=0.6$--$0.8$ показывают стабильные результаты для всех размеров популяций. Экстремальные значения ($P_c=0.9$ или $1.0$) работают хорошо только при больших популяциях ($N \geq 100$), при малых — часто приводят к преждевременной сходимости (наблюдается много прочерков в таблицах). Это связано с тем, что высокая вероятность кроссовера при малой популяции быстро приводит к гомогенизации генофонда. + + Анализ влияния вероятности мутации показал, что низкие значения $P_m=0.05$ неэффективны для малых популяций — недостаточно разнообразия для выхода из локальных минимумов. Умеренные значения $P_m=0.2$--$0.5$ демонстрируют лучшие результаты, обеспечивая баланс между эксплуатацией найденных решений и исследованием нового пространства поиска. Высокое значение $P_m=0.8$ часто приводит к расхождению алгоритма, так как слишком сильные изменения разрушают хорошие решения быстрее, чем алгоритм успевает их найти (многие конфигурации не нашли решение за отведенное время). + + + \newpage + \section{Ответ на контрольный вопрос} + + \textbf{Вопрос}: Какие критерии окончания могут быть использованы в простом МА? + + \textbf{Ответ}: В простом муравьином алгоритме могут использоваться следующие критерии завершения работы: + + \begin{itemize} + \item окончание при превышении заданного числа итераций; + \item окончание по достижению приемлемого решения; + \item окончание в случае, когда все муравьи начинают следовать одним и тем же путём. + \end{itemize} + + + + + \newpage + \section*{Заключение} + \addcontentsline{toc}{section}{Заключение} + + === Нужно обновить раздел === + + В ходе третьей лабораторной работы была успешно решена задача коммивояжера с использованием генетических алгоритмов для 38 городов Джибути: + + \begin{enumerate} + \item Изучен теоретический материал о представлениях туров (соседское, порядковое, путевое) и специализированных операторах кроссинговера и мутации для задачи коммивояжера; + \item Создана программная библиотека на языке Python с реализацией путевого представления хромосом, операторов PMX, OX и CX для кроссинговера, операторов swap, inversion и insertion для мутации, а также селекции методом рулетки с поддержкой элитизма; + \item Проведено исследование влияния параметров генетического алгоритма на качество и скорость нахождения решения для популяций размером 10, 50, 100 и 500 особей с различными значениями вероятностей кроссинговера и мутации; + \item Получено решение с длиной маршрута 6667.03, отклоняющееся от оптимального значения 6659 всего на 0.12\%. + \end{enumerate} + + +\newpage +\section*{Список литературы} +\addcontentsline{toc}{section}{Список литературы} + +\vspace{-1.5cm} +\begin{thebibliography}{0} + \bibitem{vostrov} + Методические указания по выполнению лабораторных работ к курсу «Генетические алгоритмы», 119 стр. +\end{thebibliography} + +\end{document} \ No newline at end of file