git rm

git rm file - удалит файл с диска и проиндексирует его как удаленным
git rm --chached logs/\*.log - удалит файлы с индекса, но оставит на диске