詳しくはこちらで説明がされていますが（もしくは help ARVideoCapture）
C:\toolbox-octave\Psychtoolbox\PsychContributed\ARToolkitStuffにある４つのDLL（DSVL.dll、libARvideo.dll、msvcp71.dll、msvcr71.dll）をコピーして
C:\WINDOWS\system32に貼り付ける作業が必要な場合があります。
（上書きを確認されるDLLがあるかも。上書きはしてもしなくてもどちらでもかまいません）