У avva описан интересный неожиданный эффект слишком умного AI: можно дурить AI используя надписи. Яблоко с надписью iPod скорее похоже на iPod, чем на яблоко.
Нечто подобное я замечал в современном умном поиске по картинкам. Если загрузить фото девушки - скорее всего он найдет другие фото этой же девушки (потому как выделяет ключевой элемент: Мария Ивановна Петрова). Но если загрузить фото девушки в ярком красном платье - AI уже пофиг, Маша это или Даша, платье “забивает” все, и он фокусируется на платье и ищет других девушек в красных платьях.
Очень похоже на эффект Струпа которым, оказывается, “страдают” не только люди, но и AI.
