大前提として ffplay では透過部分は透過して表示されない。

> ffplay -f lavfi -i smptebars -vf chromakey=0x0000bd:.03:.1
> をしてみても、0x0000bdが表示されてる。なんでだろう？

ffplay -f lavfi -i smptebars -vf chromakey=0x0000bd:.03:.1,alphaextract
alphaextract で透過部分を調べることができる。ここでは透過部分（chromakey）が黒になる

ffplay -f lavfi -i smptebars -vf chromakey=0x0000bd:.03:.1,showinfo
showinfo で見るとわかるように yuva420p になる

yuva の動画出力するなら ffv1 を使う（ffv1 の yuva 対応の編集ツールは無いかもしれない？）
ffmpeg -f lavfi -i smptebars=d=1 -vf chromakey=0x0000bd:.03:.1 -c:v ffv1 output.mkv

yuv の動画を一時出力するときは一般的に扱いやすい RGBA にしたほうがいい
ffmpeg -f lavfi -i smptebars=d=1 -vf chromakey=0x0000bd:.03:.1,format=rgba -c:v utvideo output.mkv

> こう理解して、[1][mask]overlayでできた素材を、別素材に使かえるようにとchromakey=0xffffffを付け加えるも白が消えない。
> なんでだろう？
ffplay -f lavfi -i smptebars -vf split[0][1];[0]chromakey=0x0000bd:.03:.1,lutyuv=255:128:128[mask];[1][mask]overlay
これで白と青だけ残る

ffplay -f lavfi -i smptebars -vf split[0][1];[0]chromakey=0x0000bd:.03:.1,lutyuv=255:128:128[mask];[1][mask]overlay,chromakey=0xffffff,alphaextract
chromakey=0xffffff で白が透過して alphaextract で透過（黒くなった）部分を確認できる