ブラウザのダウンロード設定をご確認ください。例としてChromeの設定は以下のとおりです。
- Chromeの設定より、プライバシーとセキュリティ＞サイトの設定＞すべてのサイトに保存されている権限とデータを表示 を表示します。"com"をクリックします。対象のドメインURLをクリックし、「自動ダウンロード」を確認します。自動ダウンロードが「ブロック」になっていれば、「確認（デフォルト）」もしくは「許可する」に変更します。
- Chromeの設定より、プライバシーとセキュリティ＞サイトの設定＞その他の権限＞自動ダウンロード を表示します。「複数のファイルの自動ダウンロードを許可しないサイト」に表示されているURLを確認します。SalesforceのURLあれば右端の「：」をクリックし、「削除」をクリックします。
参考
カスタムボタンからファイルがダウンロードできない・複数ファイルがダウンロードできないときの対象法