Heuristic Algorithm

휴리스틱은 경험에 기반하여 문제를 해결하거나 학습하거나 발견해 내는 방법을 말한다. 컴퓨터과학 또는 공학에서는 한정된 시간 내에 수행하기 위해 최적의 해 대신 현실적으로 만족할 수 있는 해를 구하는 방법이다.
컴퓨터과학 또는 공학에서 휴리스틱 알고리즘( 또는 단순히 휴리스틱)을 이용하여 실제로 많은 시나리오가 존재할 수 있는 문제의 용인할 수 있는 해(Solution)을 찾아내고 있다. 하지만 그 해의 최적임을 밝히는 형식을 갖춘 증명은 하지 않는다. 증명을 통해서 얻어진 최적의 해는 아니지만 최적의 해에 근사한 해일 것이다. 휴리스틱은 전형적으로 최적의 해를 찾는 알려진 방법이 없을 때 사용된다.


Metaheuristic Algorithm

메타휴리스틱은 조합 문제와 같이 컴퓨팅 비용이 많이 드는 문제가 있는 일반적인 문제들을 사용자에게서 주어진 규칙들을 조합하여 해결하는 확률 기반의 휴리스틱 방법이다.
휴리스틱은 해결하고자 하는 문제마다 각기 그 특성에 맞추어 개발해야하는 어려움을 가지고 있다. 이러한 어려움을 극복하기 위하여 특정문제가 갖는 정보에 크게 구속되지 않고 다양한 문제에 적용 가능한 상위 수준의 메타휴리스틱을 사용해야 한다. 따라서 메타휴리스틱은 문제를 해결하는 알고리즘을 구현하는 것이 실용적이지 않을 때 일반적으로 적용된다. 메타휴리스틱을 사용하는 대부분은 조합 최적화 문제를 대상으로 하고 있지만 부울 방정식을 푸는 것과 같은 메타휴리스틱의 형식으로 고쳐 쓸 수 있는 문제들도 해결할 수 있다.
메타 휴리스틱 기법에는 Genetic Algorithm Simulated Annealing, TABU search가 있다. 이들 기법들은 각기 다른 특성이 있지만 공통점으로 개념과 이론이 단순하고 해공간의 탐색성능이 우수하여 공학, 자연 과학 뿐만 아니라 경영학, 사회과학 등의 최적화 분야 또는 의사결정분야에 응용가능하다. 이들 기법들은 각기 독립적으로 여러 분야에 적용될 수 있을 뿐만 아니라 각 기법의 단점을 상호보완하면서 장법을 결합하여 함께 적용될 수 있다.