Djangoのデフォルトアプリケーションは、django.contrib配下にあり、 adminアプリもそこに格納されています。
テンプレートは、django/contrib/admin/templates/admin/以下に 格納されており、ここでは、その中のbase.htmlを変更することにします。
今、プロジェクトが/home/hogeuser/django/hogeproject/に作成されているとします。
そのとき、/home/hogeuser/django/hogeproject/templates/admin/base.htmlを作成すれば、 Adminサイトを表示する際にbase.htmlを自分が作成したbase.htmlにすることができます。