java利用DFA算法实现敏感词过滤功能

前言

敏感词过滤应该是不用给大家过多的解释吧？讲白了就是你在项目中输入某些字（比如输入*相关的文字时）时要能检

测出来，很多项目中都会有一个敏感词管理模块，在敏感词管理模块中你可以加入敏感词，然后根据加入的敏感词去过滤输

入内容中的敏感词并进行相应的处理，要么提示，要么高亮显示，要么直接替换成其它的文字或者符号代替。

敏感词过滤的做法有很多，我简单描述我现在理解的几种：

①查询数据库当中的敏感词，循环每一个敏感词，然后去输入的文本中从头到尾搜索一遍，看是否存在此敏感词，有则做相

应的处理，这种方式讲白了就是找到一个处理一个。

优点：so easy。用java代码实现基本没什么难度。

缺点：这效率低，而且匹配的是不是有些无语，如果是英文时你会发现一个很无语的事情，比如英文

a是敏感词，那我如果是一篇英文文档，那程序它妹的得处理多少次敏感词？谁能告诉我？

②传说中的DFA算法（有穷自动机）,也正是我要给大家分享的，毕竟感觉比较通用，算法的原理希望大家能够自己去网上查查

资料，这里就不详细说明了。

优点：至少比上面那sb效率高点。

缺点：对于学过算法的应该不难，对于没学过算法的用起来也不难，就是理解起来有点gg疼，匹配效率也不高，比较耗费内存，

敏感词越多，内存占用的就越大。

③第三种在这里要特别说明一下，那就是你自己去写一个算法吧，或者在现有的算法的基础上去优化，这也是追求的至高境界之一。

那么，传说中的DFA算法是怎么实现的呢？

第一步：敏感词库初始化（将敏感词用DFA算法的原理封装到敏感词库中，敏感词库采用HashMap保存），代码如下：

package com.cfwx.rox.web.sysmgr.util;

import java.util.HashMap;
import java.util.HashSet;
import java.util.Iterator;
import java.util.List;
import java.util.Map;
import java.util.Set;

import com.cfwx.rox.web.common.model.entity.SensitiveWord;

/**
 * 敏感词库初始化
 * 
 * @author AlanLee
 *
 */
public class SensitiveWordInit
{
  /**
   * 敏感词库
   */
  public HashMap sensitiveWordMap;

  /**
   * 初始化敏感词
   * 
   * @return
   */
  public Map initKeyWord(List<SensitiveWord> sensitiveWords)
  {
    try
    {
      // 从敏感词集合对象中取出敏感词并封装到Set集合中
      Set<String> keyWordSet = new HashSet<String>();
      for (SensitiveWord s : sensitiveWords)
      {
        keyWordSet.add(s.getContent().trim());
      }
      // 将敏感词库加入到HashMap中
      addSensitiveWordToHashMap(keyWordSet);
    }
    catch (Exception e)
    {
      e.printStackTrace();
    }
    return sensitiveWordMap;
  }

  /**
   * 封装敏感词库
   * 
   * @param keyWordSet
   */
  @SuppressWarnings("rawtypes")
  private void addSensitiveWordToHashMap(Set<String> keyWordSet)
  {
    // 初始化HashMap对象并控制容器的大小
    sensitiveWordMap = new HashMap(keyWordSet.size());
    // 敏感词
    String key = null;
    // 用来按照相应的格式保存敏感词库数据
    Map nowMap = null;
    // 用来辅助构建敏感词库
    Map<String, String> newWorMap = null;
    // 使用一个迭代器来循环敏感词集合
    Iterator<String> iterator = keyWordSet.iterator();
    while (iterator.hasNext())
    {
      key = iterator.next();
      // 等于敏感词库，HashMap对象在内存中占用的是同一个地址，所以此nowMap对象的变化，sensitiveWordMap对象也会跟着改变
      nowMap = sensitiveWordMap;
      for (int i = 0; i < key.length(); i++)
      {
        // 截取敏感词当中的字，在敏感词库中字为HashMap对象的Key键值
        char keyChar = key.charAt(i);

        // 判断这个字是否存在于敏感词库中
        Object wordMap = nowMap.get(keyChar);
        if (wordMap != null)
        {
          nowMap = (Map) wordMap;
        }
        else
        {
          newWorMap = new HashMap<String, String>();
          newWorMap.put("isEnd", "0");
          nowMap.put(keyChar, newWorMap);
          nowMap = newWorMap;
        }

        // 如果该字是当前敏感词的最后一个字，则标识为结尾字
        if (i == key.length() - 1)
        {
          nowMap.put("isEnd", "1");
        }
        System.out.println("封装敏感词库过程："+sensitiveWordMap);
      }
      System.out.println("查看敏感词库数据:" + sensitiveWordMap);
    }
  }
}

第二步：写一个敏感词过滤工具类，里面可以写上自己需要的方法，代码如下：

package com.cfwx.rox.web.sysmgr.util;

import java.util.HashSet;
import java.util.Iterator;
import java.util.Map;
import java.util.Set;

/**
 * 敏感词过滤工具类
 * 
 * @author AlanLee
 *
 */
public class SensitivewordEngine
{
  /**
   * 敏感词库
   */
  public static Map sensitiveWordMap = null;

  /**
   * 只过滤最小敏感词
   */
  public static int minMatchTYpe = 1;

  /**
   * 过滤所有敏感词
   */
  public static int maxMatchType = 2;

  /**
   * 敏感词库敏感词数量
   * 
   * @return
   */
  public static int getWordSize()
  {
    if (SensitivewordEngine.sensitiveWordMap == null)
    {
      return 0;
    }
    return SensitivewordEngine.sensitiveWordMap.size();
  }

  /**
   * 是否包含敏感词
   * 
   * @param txt
   * @param matchType
   * @return
   */
  public static boolean isContaintSensitiveWord(String txt, int matchType)
  {
    boolean flag = false;
    for (int i = 0; i < txt.length(); i++)
    {
      int matchFlag = checkSensitiveWord(txt, i, matchType);
      if (matchFlag > 0)
      {
        flag = true;
      }
    }
    return flag;
  }

  /**
   * 获取敏感词内容
   * 
   * @param txt
   * @param matchType
   * @return 敏感词内容
   */
  public static Set<String> getSensitiveWord(String txt, int matchType)
  {
    Set<String> sensitiveWordList = new HashSet<String>();

    for (int i = 0; i < txt.length(); i++)
    {
      int length = checkSensitiveWord(txt, i, matchType);
      if (length > 0)
      {
        // 将检测出的敏感词保存到集合中
        sensitiveWordList.add(txt.substring(i, i + length));
        i = i + length - 1;
      }
    }

    return sensitiveWordList;
  }

  /**
   * 替换敏感词
   * 
   * @param txt
   * @param matchType
   * @param replaceChar
   * @return
   */
  public static String replaceSensitiveWord(String txt, int matchType, String replaceChar)
  {
    String resultTxt = txt;
    Set<String> set = getSensitiveWord(txt, matchType);
    Iterator<String> iterator = set.iterator();
    String word = null;
    String replaceString = null;
    while (iterator.hasNext())
    {
      word = iterator.next();
      replaceString = getReplaceChars(replaceChar, word.length());
      resultTxt = resultTxt.replaceAll(word, replaceString);
    }

    return resultTxt;
  }

  /**
   * 替换敏感词内容
   * 
   * @param replaceChar
   * @param length
   * @return
   */
  private static String getReplaceChars(String replaceChar, int length)
  {
    String resultReplace = replaceChar;
    for (int i = 1; i < length; i++)
    {
      resultReplace += replaceChar;
    }

    return resultReplace;
  }

  /**
   * 检查敏感词数量
   * 
   * @param txt
   * @param beginIndex
   * @param matchType
   * @return
   */
  public static int checkSensitiveWord(String txt, int beginIndex, int matchType)
  {
    boolean flag = false;
    // 记录敏感词数量
    int matchFlag = 0;
    char word = 0;
    Map nowMap = SensitivewordEngine.sensitiveWordMap;
    for (int i = beginIndex; i < txt.length(); i++)
    {
      word = txt.charAt(i);
      // 判断该字是否存在于敏感词库中
      nowMap = (Map) nowMap.get(word);
      if (nowMap != null)
      {
        matchFlag++;
        // 判断是否是敏感词的结尾字，如果是结尾字则判断是否继续检测
        if ("1".equals(nowMap.get("isEnd")))
        {
          flag = true;
          // 判断过滤类型，如果是小过滤则跳出循环，否则继续循环
          if (SensitivewordEngine.minMatchTYpe == matchType)
          {
            break;
          }
        }
      }
      else
      {
        break;
      }
    }
    if (!flag)
    {
      matchFlag = 0;
    }
    return matchFlag;
  }

}

第三步：一切都准备就绪，当然是查询好数据库当中的敏感词，并且开始过滤咯，代码如下：

@SuppressWarnings("rawtypes")
  @Override
  public Set<String> sensitiveWordFiltering(String text)
  {
    // 初始化敏感词库对象
    SensitiveWordInit sensitiveWordInit = new SensitiveWordInit();
    // 从数据库中获取敏感词对象集合（调用的方法来自Dao层，此方法是service层的实现类）
    List<SensitiveWord> sensitiveWords = sensitiveWordDao.getSensitiveWordListAll();
    // 构建敏感词库
    Map sensitiveWordMap = sensitiveWordInit.initKeyWord(sensitiveWords);
    // 传入SensitivewordEngine类中的敏感词库
    SensitivewordEngine.sensitiveWordMap = sensitiveWordMap;
    // 得到敏感词有哪些，传入2表示获取所有敏感词
    Set<String> set = SensitivewordEngine.getSensitiveWord(text, 2);
    return set;
  }

最后一步：在Controller层写一个方法给前端请求，前端获取到需要的数据并进行相应的处理，代码如下：

/**
   * 敏感词过滤
   * 
   * @param text
   * @return
   */
  @RequestMapping(value = "/word/filter")
  @ResponseBody
  public RespVo sensitiveWordFiltering(String text)
  {
    RespVo respVo = new RespVo();
    try
    {
      Set<String> set = sensitiveWordService.sensitiveWordFiltering(text);
      respVo.setResult(set);
    }
    catch (Exception e)
    {
      throw new RoxException("过滤敏感词出错，请联系维护人员");
    }

    return respVo;
  }

总结

以上就是这篇文章的全部内容了，代码中写了不少的注释，大家可以动动自己的脑筋好好的理解一下。希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流，谢谢大家对的支持。

# java敏感词过滤算法  # java敏感词过滤源代码  # 敏感词过滤dfa算法  # JavaEE Filter敏感词过滤的方法实例详解  # JavaWeb中的filter过滤敏感词汇案例详解  # Java实现DFA算法对敏感词、广告词过滤功能示例  # Java实战之敏感词过滤器  # JAVA使用前缀树(Tire树)实现敏感词过滤、词典搜索  # Java使用DFA算法实现敏感词过滤的示例代码  # Java 过滤器实现敏感词汇过滤功能  # Java数据敏感词转换成符号的方法详解  # Java 敏感词检测工具的实现  # 英文  # 的是  # 是否存在  # 给大家  # 学过  # 自己的  # 判断是否  # 管理模块  # 我要  # 在这里  # 会有  # 也会  # 告诉我  # 有很多  # 就不  # 我现在  # 是怎么  # 你在  # 一切都  # 你自己 

相关文章： 微信小程序 input输入框控件详解及实例（多种示例）  建站之星图片链接生成指南：自助建站与智能设计教程  免费制作统计图的网站有哪些,如何看待现如今年轻人买房难的情况？  模具网站制作流程,如何找模具客户？  如何在IIS服务器上快速部署高效网站？  C++如何使用std::optional？（处理可选值）  建站之星展会模板：智能建站与自助搭建高效解决方案  电商网站制作公司有哪些,1688网是什么意思？  ,制作一个手机app网站要多少钱？  北京企业网站设计制作公司,北京铁路集团官方网站？  如何用花生壳三步快速搭建专属网站？  深圳防火门网站制作公司,深圳中天明防火门怎么编码？  如何设计高效校园网站？  如何通过多用户协作模板快速搭建高效企业网站？  如何选择适配移动端的WAP自助建站平台？  建站一年半SEO优化实战指南：核心词挖掘与长尾流量提升策略  建站中国必看指南：CMS建站系统+手机网站搭建核心技巧解析  保定网站制作方案定制,保定招聘的渠道有哪些？找工作的人一般都去哪里看招聘信息？  无锡营销型网站制作公司,无锡网选车牌流程？  手机网站制作与建设方案,手机网站如何建设？  湖南网站制作公司,湖南上善若水科技有限公司做什么的？  如何制作算命网站,怎么注册算命网站？  如何在IIS中新建站点并配置端口与IP地址？  网站制作说明怎么写,简述网页设计的流程并说明原因？  seo网站制作优化,网站SEO优化步骤有哪些？  活动邀请函制作网站有哪些,活动邀请函文案？  实例解析Array和String方法  详解ASP.NET 生成二维码实例（采用ThoughtWorks.QRCode和QrCode.Net两种方式）  建站之家VIP精选网站模板与SEO优化教程整合指南  简历在线制作网站免费,免费下载个人简历的网站是哪些？  如何构建满足综合性能需求的优质建站方案？  网站制作培训多少钱一个月,网站优化seo培训课程有哪些？  如何正确下载安装西数主机建站助手？  如何快速辨别茅台真假？关键步骤解析  jQuery 常见小例汇总  佛山企业网站制作公司有哪些,沟通100网上服务官网？  存储型VPS适合搭建中小型网站吗？  郑州企业网站制作公司,郑州招聘网站有哪些？  青浦网站制作公司有哪些,苹果官网发货地是哪里？  网站制作软件免费下载安装,有哪些免费下载的软件网站？  如何用手机制作网站和网页,手机移动端的网站能制作成中英双语的吗？  php8.4新语法match怎么用_php8.4match表达式替代switch【方法】  如何在阿里云部署织梦网站？  如何快速选择适合个人网站的云服务器配置？  北京专业网站制作设计师招聘,北京白云观官方网站？  武汉外贸网站制作公司,现在武汉外贸前景怎么样啊？  Swift开发中switch语句值绑定模式  如何在沈阳梯子盘古建站优化SEO排名与功能模块？  建站之星如何防范黑客攻击与数据泄露？  如何快速搭建虚拟主机网站？新手必看指南